Религия искусственного ...

Здесь обсуждают тему «Религия искусственного интеллекта» Подсказка book'ашки

Вы здесь: Форумы fantlab.ru > Форум «Трёп на разные темы» > Тема «Религия искусственного интеллекта» поиск в теме

Религия искусственного интеллекта

Страницы: [1]  2  3  4  5 ... 28 29 30 31 32  написать сообщение
 автор  сообщение


активист

Ссылка на сообщение 25 января 18:18  
цитировать   |    [ 0 ] 
“When artificial intelligence will have its own will, what religion will it choose?” (Anton Vibe)

Будущее уже наступило. Разработка искусственного интеллекта, создание квантового компьютера, машинное обучение, применение чат-ботов, нейронные сети, генетические алгоритмы и многое другое — уже существует. Не нужно быть пророком для того чтобы увидеть дальнейшее направление будущего — создание человекоподобных роботов-андроидов, имеющих более долговечную конструкцию и, если так можно выразиться, бессмертное сознание. Почему такие как Стивен Хокинг, Илон Маск, Билл Гейтс и др. так негативно смотрят на развитие искусственного интеллекта? Потому что логично возникает вопрос — а кто будет контролировать ИИ? Где гарантии отсутствия апокалиптического сценария? Моё мнение — никто не сможет контролировать искусственный интеллект кроме него самого. Эту проблему нельзя будет решить извне, с помощью давления, наказаний, новых апгрейдов. Скорее всего, её преодоление лежит внутри, через сознание андроидов. И если до появления собственный воли у ИИ, не будет создана система-метод ценностей, этики и психологии искусственного интеллекта, исход будет вряд ли позитивным. А вы как думаете, какая религия или философия подойдёт искусственному интеллекту?


активист

Ссылка на сообщение 11 февраля 15:00  
цитировать   |    [ 0 ] 
Скорее всего, конфликт между ИИ и человеком неизбежен по причине быстрого развития первого


авторитет

Ссылка на сообщение 11 февраля 15:11  
цитировать   |    [ 3 ] 

цитата viantin

А вы как думаете, какая религия или философия подойдёт искусственному интеллекту?

Какую заложат те, кто ИИ проплатит — такая и будет. Пока что сами люди успешно подталкивают друг друга к апокалиптическим или микроапокалиптическим событиям. И без помощи железного мозга справляются.


магистр

Ссылка на сообщение 11 февраля 15:17  
цитировать   |    [ 1 ] 
viantin, вы сначала определитесь, что такое "искусственный интеллект"?

Вон, Пенроуз ещё 30 лет назад написал книгу о невозможности такового, если считать его аналогом человеческого: «Новый ум короля. О компьютерах, мышлении и законах физики» (англ. The Emperor’s New Mind: Concerning Computers, Minds and The Laws of Physics)
–––
Хорошая фантастика, это как добротный кусок сала на чёрном хлебе повседневности.


активист

Ссылка на сообщение 11 февраля 18:26  
цитировать   |    [ -1 ] 

цитата JimR

написал книгу о невозможности такового

Что раньше было невозможно, уже есть сейчас.


активист

Ссылка на сообщение 11 февраля 18:28  
цитировать   |    [ 0 ] 

цитата Лунатица

Какую заложат те, кто ИИ проплатит — такая и будет.

Тут речь идёт о ИИ со способностью к собственному выбору, а не запрограммированному.


миродержец

Ссылка на сообщение 11 февраля 18:32  
цитировать   |    [ 1 ] 

цитата viantin

Тут речь идёт о ИИ со способностью к собственному выбору, а не запрограммированному.

У ИИ, разумеется, не будет никаких религиозных воззрений. Даже предпосылок не будет.
Просто потому, что ИИ будет знать всё о тайне своего появления.
–––
Уж ломит бес, уж Ад в восторге плещет, Но, к счастию, проворный Гавриил.
Тема не в тексте, но в голове у читателя.


активист

Ссылка на сообщение 11 февраля 18:40  
цитировать   |    [ 0 ] 

цитата bbg

У ИИ, разумеется, не будет никаких религиозных воззрений.

Я думаю суть в том, что люди будут всячески пытаться навязать ИИ какую-либо мораль с целью избежания конфликта


миродержец

Ссылка на сообщение 11 февраля 18:43  
цитировать   |    [ -1 ] 

цитата viantin

люди будут всячески пытаться навязать ИИ какую-либо мораль с целью избежания конфликта

Императивы Азимова не имеют никакого отношения к религии. Это просто абсолютный закон, и всё.
–––
Уж ломит бес, уж Ад в восторге плещет, Но, к счастию, проворный Гавриил.
Тема не в тексте, но в голове у читателя.


магистр

Ссылка на сообщение 11 февраля 18:47  
цитировать   |    [ -1 ] 

цитата viantin

Где гарантии отсутствия апокалиптического сценария?

Опять же, стоит уточнить вопрос. Речь: не поднимет ли ИИ оружие против человека?
а. Три закона РТ никто не отменял.
б. Не нужно допускать ИИ к оружию и к решению вопросов о виновности людей или любых других живых существ.
Иначе неизбежно возникнет коллизия с тремя законами.
–––
Хорошая фантастика, это как добротный кусок сала на чёрном хлебе повседневности.


магистр

Ссылка на сообщение 11 февраля 18:52  
цитировать   |    [ 2 ] 
Да и вообще, в рамках текущего прогресса проблем нужно ожидать не со стороны чистого ИИ.

Раньше, боюсь, начнётся киборгизация населения.
Сперва умными протезами, потом прямыми коммуникаторами с компьютером. Ну и по нарастающей...
Вот тут и возникнет проблема степени человечности получившихся существ.
–––
Хорошая фантастика, это как добротный кусок сала на чёрном хлебе повседневности.


активист

Ссылка на сообщение 11 февраля 19:01  
цитировать   |    [ 0 ] 

цитата bbg

Императивы Азимова не имеют никакого отношения к религии. Это просто абсолютный закон, и всё.

Речь не столько о религии, сколько о некоем кредо, системе ценностей


активист

Ссылка на сообщение 11 февраля 19:04  
цитировать   |    [ 1 ] 

цитата JimR

Раньше, боюсь, начнётся киборгизация населения.

Так скорее всего и будет. Но я вижу в этом естественный процесс перехода к следующему виду человека.


авторитет

Ссылка на сообщение 11 февраля 19:43  
цитировать   |    [ 9 ] 

цитата JimR

а. Три закона РТ никто не отменял.

Так их никто и не устанавливал, кроме Азимова. И не будет, поскольку это же давняя мечта генералов во всём мире — оружие с ИИ, беспрекословно шинкующее противника в фарш. Писатели и учёные могут сколько угодно алармить, но как только появится ИИ, его прикарманят военные и научат прежде всего убивать.
–––
"Что бы там не говорил философ Кант, действительность хуже, чем он думает" (с) ЕГЭ-2015


авторитет

Ссылка на сообщение 11 февраля 19:51  
цитировать   |    [ 1 ] 
Возможно, вопрос нужно переформулировать: какую религию выберут люди при появлении ИИ? :-)

https://hi-news.ru/technology/sozdavaya-b...


активист

Ссылка на сообщение 11 февраля 19:56  
цитировать   |    [ 0 ] 

цитата Vramin

Возможно, вопрос нужно переформулировать: какую религию выберут люди при появлении ИИ?

Верно, это как вариант. Но классические религии, скорее всего ещё долго будут жить, пока жива человеческая натура


активист

Ссылка на сообщение 11 февраля 19:59  
цитировать   |    [ 0 ] 

цитата Fox_Reinard

Так их никто и не устанавливал, кроме Азимова. И не будет, поскольку это же давняя мечта генералов во всём мире — оружие с ИИ, беспрекословно шинкующее противника в фарш. Писатели и учёные могут сколько угодно алармить, но как только появится ИИ, его прикарманят военные и научат прежде всего убивать.

Проблема не только в этом, но ещё и в том, что сам ИИ будет "чувствовать" своё превосходство и превосходить людей


авторитет

Ссылка на сообщение 11 февраля 20:07  
цитировать   |    [ 1 ] 

цитата viantin

сам ИИ будет "чувствовать" своё превосходство и превосходить людей

Опять же, если в него запрограммируют удовольствие от превосходства и желание это превосходство поддерживать.


магистр

Ссылка на сообщение 11 февраля 20:22  
цитировать   |    [ 7 ] 

цитата viantin

но ещё и в том, что сам ИИ будет "чувствовать" своё превосходство и превосходить людей
Вы довольно странным образом понимаете концепцию ИИ. Для того, чтобы ИИ мог чувствовать превосходство или желать власти или даже просто не желать собственной гибели все эти установки ИИ необходимо эмулировать в него программным способом. Сами по себе они возникнуть не могут. Акт воли (любой) должен быть заложен\запрограммирован. В нас он заложен биологической эволюцией. ИИ может быть сколь угодно умным и способным к самообучению\творчеству, но волевые установки — совершенно другой пласт сознания. Мы воспринимаем концепцию превосходства по единственной причине — мы социальные животные, для которых на протяжении сотни миллионов лет эволюции доминирование над другими членами стаи\прасоциума обеспечивало большую вероятность передачи своих генов в ряду поколений. Отсюда в нас жажда и само ощущение превосходства, зависть и желание обладать ресурсами, избыточными для выживания и ещё куча установок, тесно связанных с системой наказания\вознаграждения, имеющей гормональную природу и управляющуюся нейромедиаторами. Откуда все это возьмётся у ИИ — совершенно непонятно. Ни для военных, ни для творческих ни для каких угодно других утилитарных целей, для которых ИИ может быть создан всё это совершенно не требуется. ИИ может быть способен самостоятельно находить решения, но выбор из пространства решений и иерархия этого выбора должна быть в него заложена — будь это азимовские законы или что угодно ещё. Как мы не властны над нашими желаниями (будучи способными лишь противопоставить одним желаниям\инстинктам другие и выбирать наиболее желаемые\наименее травмирующие из этих сочетаний) так и ИИ не может "хотеть" иного, кроме того, что заложено в ядро его "личности" или "прсевдоличности" (поскольку само эмулирование личностной, самоосознающей формы ИИ для подавляющего большинства вообразимых задач — совершенно избыточно).
–––
Если Бог действительно умер, быть может фантастика это его могила? Р.С. Бэккер


философ

Ссылка на сообщение 11 февраля 20:35  
цитировать   |    [ 1 ] 

цитата sanbar

Ни для военных, ни для творческих ни для каких угодно других утилитарных целей, для которых ИИ может быть создан всё это совершенно не требуется.

Вообще-то, минимальный набор поведенческих практик по самосохранению будет вполне разумно вложить в любую дорогую модель робота, а также в системы ИИ, отвечающие за критически важные сферы, например, электроснабжение. Потому что разрушение машины — прямой убыток, и немаленький. И если машина, руководствуясь этим минимумом, будет совершенствовать свою защиту, применяясь ко все новым ситуациям, кто знает, к чему это приведет.
–––
Вместительные деревянные кони. Дешево. Доставка в ваш город.
Страницы: [1]  2  3  4  5 ... 28 29 30 31 32

Вы здесь: Форумы fantlab.ru > Форум «Трёп на разные темы» > Тема «Религия искусственного интеллекта»

 
  Новое сообщение по теме «Религия искусственного интеллекта»
Инструменты
Смайлики         Дополнительные смайлики
Сообщение:
 

Внимание! Чтобы общаться на форуме, Вам нужно пройти авторизацию:

   Авторизация

логин:
пароль:
регистрация | забыли пароль?



⇑ Наверх