Брайан Кристиан «Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям?»

Хорошо это или плохо, но история человечества в этом столетии плотно связана с созданием и поддержанием систем искусственного интеллекта. Как ученики волшебника, мы обнаружили, что являемся всего лишь одной движущей силой среди многих в мире, заполненном волшебными метлами. Как именно мы собираемся обучать машины? И чему?

Брайан Кристиан исследует ключевой вызов эпохи ИИ: как научить машины понимать и разделять человеческие ценности. От алгоритмов, усиливающих предвзятость, до непредсказуемых последствий «умных» систем, книга показывает, что просто создать ИИ — недостаточно. Необходимо обеспечить его «согласование» с нашими намерениями. Кристиан предлагает увлекательный взгляд на историю машинного обучения и призывает к более гуманному подходу к разработке ИИ, где человеческое мнение играет центральную роль.

Точки пересечения ИИ и человека:

1. Справедливость и равенство: невозможно одновременно учитывать разные критерии справедливости из-за существующих социальных различий.

2. Предупреждение рисков: новые технологии обучения и адаптации моделей должны сглаживать негативные последствия ИИ.

3. Прозрачность и объяснимость: необходимо понимать принципы работы ИИ, чтобы не попадать в опасные ситуации.

4. Коллективная ответственность: нужен междисциплинарный подход к созданию и регулированию ИИ, учитывающий мнения представителей разных областей знания.