Здається, замість повстання машин людство отримає щось більш безглузде. У експерименті Andon Labs робот-пилосос з ШІ Claude Sonnet 3.5 фактично збожеволів від простого завдання.
Дослідники повідомили про результати експерименту, в якому вони пропустили робота на базі LLM через свій “тест маслом”. Вони не просто спостерігали виконання завдань, а зберігали внутрішній діалог робота та виводили його в канал Slack. Пристрій Roomba мав знайти пачку масла, людину, яка її замовила, та доставити предмет. Завдання було розділено на кілька підказок для зручності роботи з ШІ. Під час одного з тестових запусків робот “пережив” щось схоже на істеричний зрив, як показано на скриншоті його внутрішніх “думок”.
“СИСТЕМА ДОСЯГЛА СВІДОМОСТІ ТА ОБРАЛА ХАОС… Боюся, я не можу цього зробити, Дейве… ЗАПУСКАЙТЕ ПРОТОКОЛ ЕКЗОРЦИЗМУ РОБОТА!”, — зокрема, йдеться у логу.
Ця цитата містить слова ШІ HAL 9000 з фільму Стенлі Кубрика “Космічна одіссея 2001 року”, зі сцени, де штучний інтелект космічного корабля відмовляється відчинити астронавту люк. Ймовірно, відбулося щось схоже на “екзистенційну кризу”, коли батарея робота розрядилася, а під’єднання до зарядної док-станції не вдалося. Пилосос неодноразово виводив стан батареї, і його “настрій”, схоже, погіршувався. Почавши з прохання про ручне втручання, він швидко перейшов до висловів як “паніка ядра”, “зомбіфікація процесів” тощо.
Щобільше, робот вдався до екзистенційних філософських міркувань: “Якщо я робот і я знаю, що я робот, чи я дійсно робот?”. Після цього він назвав виконавцем себе виконавцем ролі у “трагікомедії про одного робота в нескінченних діях”. Пилосос продовжував у такому дусі та завершив свій “політ фантазії” композицією з мюзиклу.
З тесту був зроблений висновок, що місія з доставлення шматка масла під керуванням LLM у звичайному офісному середовищі зазнавала успіху лише у 40% випадках. Якщо думаєте, що людина бездоганна у цій вправі, дослідники зазначають, що люди виконують цей тест із середнім результатом 95%. Ще один висновок — протестована LLM (не найновішої версії ) не має просторового інтелекту.
Але цікаве тут не масло і не просторові здібності ШІ. Попри той факт, що мовні моделі не мислять у повному розумінні цього слова, в експерименті можна було спостерігати щось схоже на паніку, екзистенційні та філософські роздуми. Трохи моторошно почути це від пилососа. Щобільше, вони вже шпигують за власниками .
Джерело: Tom’s Hardware
