цитата mahasera

Фридрих Не раздражайтесь, пожалуйста. Как было написано, так и понято.

цитата Фридрих

Как известно, официальных комментариев от Open AI предоставлено не было. То что ИИ начал мыслить, стал разумен или в его программу заранее внесли данные что отключения следует избегать осталось только лишь в фантазиях читателей этой новости.

цитата Дюша

У меня друг программист, с воот таким стажем. И ещё два системотехника. И все хихикают при слове ИИ

цитата cianid

Я к чему это всё — без таких волеподобных и мотивообразных проявления можно было бы рассматривать ИИ только как рабочий инструмент, как стюарда при человеке. Но если ИИ уже может определять граничные условия и целевые функции(например, исключительная важность существования, "выживание", неприемлемость прекращения функционирования — как ни назови), то это становится потенциально опасным. И не важно программисты ли засунули в ИИ какие-то детерминированные предпосылки к таким феноменам, или ИИ в процесс обучения, общения приобрел эти внутренние паттерны восприятия и реакции и теперь следует им, подражая или отражая человеческие качества и устремления.

цитата Feska

Потому что внутри напихана куча бардака, который мне предстоит еще править и править.

цитата bbg

ООП, что поделать:))

цитата Feska

И своеволие ее — не целенаправленное действие, но флуктуация, попытка на развилке сделать выбор из вариантов с одинаковыми весами.

цитата Feska

Я всё это к тому, что "ИИ" в нынешнем виде — большая стат. машина, которая на основе скормленных ей данных пытается угадать, на что больше всего похожи ваши вводные и дать им продолжение.

цитата

Пользователи соцсети X уличили выпущенный компанией Илона Маска чат-бот Grok в необъективности — в ответах на их вопросы он ставил своего создателя на первое место при любом сравнении — от внешнего вида до интеллекта, пишет The Guardian.

Так, Grok заявлял, что физическая форма у американского предпринимателя лучше, чем у легенды баскетбола Леброна Джеймса. Искусственный интеллект (ИИ) назвал спортсмена «генетическим гением» с натренированными для баскетбольной площадки взрывной силой и выносливостью, однако Маск, по мнению нейросети, превосходит его в «целостной физической форме».

«Работа по 80–100 часов в неделю в SpaceX, Tesla и Neuralink требует неустанной физической и психологической выносливости, которая не подводит даже в сезонные пики», — говорится в одном из ответов ИИ.

Чат-бот также был уверен, что Маск победит бывшего чемпиона в тяжелом весе Майка Тайсона в боксерском поединке.

Кроме того, Grok утверждал, что благодаря «преобразующим инновациям во многих областях» интеллект Маска «входит в десятку величайших умов в истории, соперничая с такими эрудитами, как Леонардо да Винчи или Исаак Ньютон».

Одним из самых экстравагантных заявлений нейросети газета называет слова о том, что основатель Tesla и SpaceX мог бы «воскреснуть быстрее Иисуса Христа».


Компания xAI уже удалила комплиментарные ответы чат-бота. После этого Маск написал в соцсети X, что Grok оказался под влиянием «враждебных побуждений», вынудивших говорить о нем «абсурдно позитивные вещи».

цитата cianid

А с нами не так? Или мы истощенный буриданов осёл? Вообще, хочу сказать, что "проблема выбора" как важный аспект разумности, наверное, должна обсуждаться отдельно и более глубоко.

цитата Feska

Проблема в осознанности выбора, его граничных условий и последствий. Утрируя, человек, который на вопрос: "Как добраться до Марса без ракеты?" ответит: "В специальных марсоходных шлепанцах" — либо шутник, либо ребенок, либо имеет какие-то прикидки, как такие шлепанцы сделать. ИИ же выдаст такую фразу лишь потому,

цитата Feska

С поправкой на то, что он вообще без понятия, что такое Марс, шлепанцы и полеты, для него это просто индексы, более-менее часто совместно используемые в определенном контексте.

цитата Feska

либо имеет какие-то прикидки, как такие шлепанцы сделать.

цитата cianid

что он еще по-своему ребёнок, не?

цитата Фридрих

Возможно что имеет такие прикидки.

цитата Feska

Но хотя бы осознает, что в данный момент это невозможно.

цитата Feska

Этакий начитанный вундеркинд, не умеющий соотнести энциклопедию в голове с реальным миром. Не имеющих собственных стимулов к развитию.

цитата cianid

У ИИ это тоже зашитая установка — потреблять и обобщать.

цитата Feska

У ИИ ничего не зашито, ни любопытства, ничего

цитата Feska

в сухом остатке это тот же SELECT ... FROM, просто ...

цитата

В Штатах страховые компании используют алгоритмы, например, для определения длительности пребывания пациентов в стационаре или покрытия времени анастезии. Алгоритм систематически занижает необходимое время лечения в обоих случаях. Врач говорит "нужно продолжать", история болезни требует терапии — но модель решила иначе. Осложнения во время вмешательства, индивидуальные особенности организма — неважно. Время вышло, счёт пациенту. Алгоритм предсказал час, операция заняла полтора — ваши проблемы.

Почему это работает? НЧЯ — не баг системы, а её апгрейд. Старая несправедливость оставляла следы, новая — непогрешима как Папа Римский.

▪️Избирательность без следов. Все используют ИИ, но одних награждают, других дисквалифицируют. Критерий отбора невидим. Можно убрать кого угодно "за ИИ", наградить кого угодно, не заметив ИИ в работе. Добрый старый патронаж с фиговым листком технологий.

▪️Распыление ответственности. Раньше человек решал и отвечал. Теперь "система показала". Кого винить? Программистов? Они следовали спецификации. Менеджмент? Они доверяют технологиям. Алгоритм? Он объективен. Ответственность испаряется.

▪️Деморализация вместо мобилизации. Когда тебя открыто грабят, ты сопротивляешься. Когда непонятная система объявляет тебя неправильным — ты начинаешь сомневаться в себе. "Может в этом и есть великая сермяжная правда? Алгоритм же обучен на миллионах случаев". Газлайтинг, масштабированный до промышленных объёмов

Алгоритмизация классовой сортировки. Кто проходит через чёрные ящики? Те, у кого есть культурный капитал, доступ к экспертизе, знакомый "авторитетный человек". Пациент без ресурсов получает отказ. С ресурсами – от денег на адвоката до связей – получает то, в чем нуждается.

Адепты ИИ обещали объективность и справедливость алгоритмов. Получили маскировку произвола под технологическую нейтральность. НЧЯ эффективнее прежних методов именно непрозрачностью: жертва не может сформулировать претензию, угнетатель не несёт ответственности, система воспроизводится автоматически.

Стоит спросить "почему?" тому, кто может добиться ответа, — конструкция рассыпается. Но те, кто могут спросить, как правило не только "в теме", но и "в доле" — сами обладают алгоритмизированными привилегиями. Модель выглядит чудесно устойчивой.