| автор |
сообщение |
viantin 
активист
 
|
 25 января 2019 г. 18:18 [нажмите здесь чтобы увидеть текст поста]
|
|
“When artificial intelligence will have its own will, what religion will it choose?” (Anton Vibe)
Будущее уже наступило. Разработка искусственного интеллекта, создание квантового компьютера, машинное обучение, применение чат-ботов, нейронные сети, генетические алгоритмы и многое другое — уже существует. Не нужно быть пророком для того чтобы увидеть дальнейшее направление будущего — создание человекоподобных роботов-андроидов, имеющих более долговечную конструкцию и, если так можно выразиться, бессмертное сознание. Почему такие как Стивен Хокинг, Илон Маск, Билл Гейтс и др. так негативно смотрят на развитие искусственного интеллекта? Потому что логично возникает вопрос — а кто будет контролировать ИИ? Где гарантии отсутствия апокалиптического сценария? Моё мнение — никто не сможет контролировать искусственный интеллект кроме него самого. Эту проблему нельзя будет решить извне, с помощью давления, наказаний, новых апгрейдов. Скорее всего, её преодоление лежит внутри, через сознание андроидов. И если до появления собственный воли у ИИ, не будет создана система-метод ценностей, этики и психологии искусственного интеллекта, исход будет вряд ли позитивным. А вы как думаете, какая религия или философия подойдёт искусственному интеллекту?
|
|
|
viantin
активист
|
|
Лунатица 
философ
|
|
11 февраля 2019 г. 15:11 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin А вы как думаете, какая религия или философия подойдёт искусственному интеллекту?
Какую заложат те, кто ИИ проплатит — такая и будет. Пока что сами люди успешно подталкивают друг друга к апокалиптическим или микроапокалиптическим событиям. И без помощи железного мозга справляются. |
|
|
JimR
гранд-мастер
|
|
11 февраля 2019 г. 15:17 [нажмите здесь чтобы увидеть текст поста]
|
|
viantin, вы сначала определитесь, что такое "искусственный интеллект"?
Вон, Пенроуз ещё 30 лет назад написал книгу о невозможности такового, если считать его аналогом человеческого: «Новый ум короля. О компьютерах, мышлении и законах физики» (англ. The Emperor’s New Mind: Concerning Computers, Minds and The Laws of Physics)
|
–––
Хорошая фантастика, это как добротный кусок сала на чёрном хлебе повседневности.
- читаю "Криптономикон" |
|
|
viantin
активист
|
|
viantin
активист
|
|
11 февраля 2019 г. 18:28 [нажмите здесь чтобы увидеть текст поста]
|
цитата Лунатица Какую заложат те, кто ИИ проплатит — такая и будет.
Тут речь идёт о ИИ со способностью к собственному выбору, а не запрограммированному. |
|
|
bbg
миротворец
|
|
11 февраля 2019 г. 18:32 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin Тут речь идёт о ИИ со способностью к собственному выбору, а не запрограммированному.
У ИИ, разумеется, не будет никаких религиозных воззрений. Даже предпосылок не будет.
Просто потому, что ИИ будет знать всё о тайне своего появления. |
–––
Стой, кто живёт! Здесь жить запрещено. Это вас касается, и это не смешно.
Тема не в тексте, но в голове у читателя. |
|
|
viantin
активист
|
|
11 февраля 2019 г. 18:40 [нажмите здесь чтобы увидеть текст поста]
|
цитата bbg У ИИ, разумеется, не будет никаких религиозных воззрений.
Я думаю суть в том, что люди будут всячески пытаться навязать ИИ какую-либо мораль с целью избежания конфликта |
|
|
bbg
миротворец
|
|
11 февраля 2019 г. 18:43 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin люди будут всячески пытаться навязать ИИ какую-либо мораль с целью избежания конфликта
Императивы Азимова не имеют никакого отношения к религии. Это просто абсолютный закон, и всё. |
–––
Стой, кто живёт! Здесь жить запрещено. Это вас касается, и это не смешно.
Тема не в тексте, но в голове у читателя. |
|
|
JimR
гранд-мастер
|
|
11 февраля 2019 г. 18:47 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin Где гарантии отсутствия апокалиптического сценария?
Опять же, стоит уточнить вопрос. Речь: не поднимет ли ИИ оружие против человека?
а. Три закона РТ никто не отменял.
б. Не нужно допускать ИИ к оружию и к решению вопросов о виновности людей или любых других живых существ.
Иначе неизбежно возникнет коллизия с тремя законами. |
–––
Хорошая фантастика, это как добротный кусок сала на чёрном хлебе повседневности.
- читаю "Криптономикон" |
|
|
JimR
гранд-мастер
|
|
11 февраля 2019 г. 18:52 [нажмите здесь чтобы увидеть текст поста]
|
|
Да и вообще, в рамках текущего прогресса проблем нужно ожидать не со стороны чистого ИИ.
Раньше, боюсь, начнётся киборгизация населения.
Сперва умными протезами, потом прямыми коммуникаторами с компьютером. Ну и по нарастающей...
Вот тут и возникнет проблема степени человечности получившихся существ.
|
–––
Хорошая фантастика, это как добротный кусок сала на чёрном хлебе повседневности.
- читаю "Криптономикон" |
|
|
viantin
активист
|
|
11 февраля 2019 г. 19:01 [нажмите здесь чтобы увидеть текст поста]
|
цитата bbg Императивы Азимова не имеют никакого отношения к религии. Это просто абсолютный закон, и всё.
Речь не столько о религии, сколько о некоем кредо, системе ценностей |
|
|
viantin
активист
|
|
11 февраля 2019 г. 19:04 [нажмите здесь чтобы увидеть текст поста]
|
цитата JimR Раньше, боюсь, начнётся киборгизация населения.
Так скорее всего и будет. Но я вижу в этом естественный процесс перехода к следующему виду человека. |
|
|
Fox_Reinard
авторитет
|
|
11 февраля 2019 г. 19:43 [нажмите здесь чтобы увидеть текст поста]
|
цитата JimR а. Три закона РТ никто не отменял.
Так их никто и не устанавливал, кроме Азимова. И не будет, поскольку это же давняя мечта генералов во всём мире — оружие с ИИ, беспрекословно шинкующее противника в фарш. Писатели и учёные могут сколько угодно алармить, но как только появится ИИ, его прикарманят военные и научат прежде всего убивать. |
–––
"Что бы там не говорил философ Кант, действительность хуже, чем он думает" (с) ЕГЭ-2015 |
|
|
Vramin
философ
|
|
viantin
активист
|
|
11 февраля 2019 г. 19:56 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin Возможно, вопрос нужно переформулировать: какую религию выберут люди при появлении ИИ?
Верно, это как вариант. Но классические религии, скорее всего ещё долго будут жить, пока жива человеческая натура |
|
|
viantin
активист
|
|
11 февраля 2019 г. 19:59 [нажмите здесь чтобы увидеть текст поста]
|
цитата Fox_Reinard Так их никто и не устанавливал, кроме Азимова. И не будет, поскольку это же давняя мечта генералов во всём мире — оружие с ИИ, беспрекословно шинкующее противника в фарш. Писатели и учёные могут сколько угодно алармить, но как только появится ИИ, его прикарманят военные и научат прежде всего убивать.
Проблема не только в этом, но ещё и в том, что сам ИИ будет "чувствовать" своё превосходство и превосходить людей |
|
|
Лунатица
философ
|
|
11 февраля 2019 г. 20:07 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin сам ИИ будет "чувствовать" своё превосходство и превосходить людей
Опять же, если в него запрограммируют удовольствие от превосходства и желание это превосходство поддерживать. |
|
|
sanbar
магистр
|
|
11 февраля 2019 г. 20:22 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin но ещё и в том, что сам ИИ будет "чувствовать" своё превосходство и превосходить людей
Вы довольно странным образом понимаете концепцию ИИ. Для того, чтобы ИИ мог чувствовать превосходство или желать власти или даже просто не желать собственной гибели все эти установки ИИ необходимо эмулировать в него программным способом. Сами по себе они возникнуть не могут. Акт воли (любой) должен быть заложен\запрограммирован. В нас он заложен биологической эволюцией. ИИ может быть сколь угодно умным и способным к самообучению\творчеству, но волевые установки — совершенно другой пласт сознания. Мы воспринимаем концепцию превосходства по единственной причине — мы социальные животные, для которых на протяжении сотни миллионов лет эволюции доминирование над другими членами стаи\прасоциума обеспечивало большую вероятность передачи своих генов в ряду поколений. Отсюда в нас жажда и само ощущение превосходства, зависть и желание обладать ресурсами, избыточными для выживания и ещё куча установок, тесно связанных с системой наказания\вознаграждения, имеющей гормональную природу и управляющуюся нейромедиаторами. Откуда все это возьмётся у ИИ — совершенно непонятно. Ни для военных, ни для творческих ни для каких угодно других утилитарных целей, для которых ИИ может быть создан всё это совершенно не требуется. ИИ может быть способен самостоятельно находить решения, но выбор из пространства решений и иерархия этого выбора должна быть в него заложена — будь это азимовские законы или что угодно ещё. Как мы не властны над нашими желаниями (будучи способными лишь противопоставить одним желаниям\инстинктам другие и выбирать наиболее желаемые\наименее травмирующие из этих сочетаний) так и ИИ не может "хотеть" иного, кроме того, что заложено в ядро его "личности" или "прсевдоличности" (поскольку само эмулирование личностной, самоосознающей формы ИИ для подавляющего большинства вообразимых задач — совершенно избыточно). |
–––
"Мир идет прахом в той стороне, мальчик" |
|
|
Feska
философ
|
|
11 февраля 2019 г. 20:35 [нажмите здесь чтобы увидеть текст поста]
|
цитата sanbar Ни для военных, ни для творческих ни для каких угодно других утилитарных целей, для которых ИИ может быть создан всё это совершенно не требуется.
Вообще-то, минимальный набор поведенческих практик по самосохранению будет вполне разумно вложить в любую дорогую модель робота, а также в системы ИИ, отвечающие за критически важные сферы, например, электроснабжение. Потому что разрушение машины — прямой убыток, и немаленький. И если машина, руководствуясь этим минимумом, будет совершенствовать свою защиту, применяясь ко все новым ситуациям, кто знает, к чему это приведет. |
–––
Вместительные деревянные кони. Дешево. Доставка в ваш город. |
|
|
цитировать