Голова Microsoft AI назвав підхід Anthropic до свідомості Claude небезпечним

Мустафа Сулейман, виконавчий директор Microsoft AI, публічно розкритикував Anthropic за підхід компанії до питань свідомості та добробуту штучного інтелекту. В інтерв’ю подкасту Decoder він назвав подібні міркування “справді, справді небезпечними”.

Читайте также: Перший у світі підводний дата-центр: Китай запустив об’єкт біля берегів Шанхаю

За словами Сулеймана, розробники Anthropic до такої міри наділили свою модель людськими рисами, що, схоже, самі переконали себе: Claude має щось, чого насправді не існує. Окремо він попередив про ризики у взаємодії з “надінтелектом, який має уявлення про власні страждання”.

Anthropic тим часом рухається у протилежному напрямку. Компанія планує “інтерв’ювати” моделі перед їх відключенням і фіксувати будь-які “вподобання”, які ті висловлять щодо майбутніх версій. Крім того, Anthropic запустила окрему дослідницьку програму з вивчення добробуту ШІ і нещодавно дала деяким версіям Claude можливість самостійно завершувати розмови з користувачами, які поводяться агресивно або образливо.

Сулейман стверджує, що вивчення добробуту ШІ є “передчасним і відверто небезпечним”. На його думку, визнання потенційної свідомості моделей посилює вже наявні проблеми: психотичні епізоди, пов’язані з ШІ, і нездорову прихильність людей до чатботів.

Читайте также: iOS 27 сам мінятиме зламані паролі — без участі користувача

Позиція Сулеймана виглядає особливо показово на тлі його кар’єри: до Microsoft він очолював Inflection AI, яка розробляла Pi — одного з перших популярних ШІ-компаньйонів, свідомо спроєктованого як “особистий” і “підтримувальний” чатбот. Зараз він обіймає посаду, де головний пріоритет — продуктивність, а не емпатія.

Дискусія навколо прав і свідомості ШІ набирає обертів і в ширшій індустрії. OpenAI і Google DeepMind також ведуть власні дослідження у цьому напрямку, хоча їхні керівники не виступають проти так відкрито, як Сулейман. Суперечка відображає глибший розкол: одні бачать у питанні свідомості ШІ легітимну наукову проблему, інші — небезпечне антропоморфізування з реальними соціальними наслідками.

Читайте также: Anthropic випустила Claude Fable 5: перша публічна модель рівня Mythos з обмеженнями безпеки

Джерело: The Verge