Згідно із заявою сенатора США Марка Ворнера, передова модель ШІ Mythos від Anthropic буквально за кілька годин зламала майже всі секретні системи АНБ.
Читайте также: Легендарний дизайнер рівнів Сьорд де Йонг залишив Epic Games після 12 років роботи на тлі того як Unreal
Чи дійсно Mythos такий небезпечний
Як повідомляє The Economist, заступник голови комітету Сенату з розвідки Марк Ворнер зазначив, що про це йому прямо повідомив керівник АНБ та Кіберкомандування США генерал Джошуа Радд. За його словами, Mythos буквально за кілька годин проник майже у всіх секретні системи Агентства з нацбезпеки під час санкціонованих навчань “червоної команди”.
Заява пролунала 11 червня, буквально за день до введення адміністрацією президента США Дональда Трампа обмеження доступу до моделей Fable 5 та Mythos 5. Хоча обмеження поширювались на громадян США, оскільки в Anthropic не має змоги перевіряти громадянство у великих масштабах, єдиним рішенням виявилось обмежити використання цих моделей ШІ для всіх партнерів та дослідників. Це вперше, коли уряд США застосував експортний контроль до моделі штучного інтелекту.
Заяви Марка Ворнера досі не підтверджені з боку жодного урядового відомства США. Подробиці також залишаються засекреченими. Anthropic зі свого боку одразу після релізу Mythos попередила, що модель надзвичайно ефективна у виявленні вразливостей кібербезпеки й не може бути випущена у відкритий доступ.
Що ховається за конфліктом уряду США з Anthropic навколо Mythos
Замість цього Anthropic запустила проєкт Project Glasswing, через який надала доступ до Mythos близько 200 своїм партнерам, зокрема, Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan та Linux Foundation. Mythos за короткий час вже виявив тисячі вразливостей, включно з 27-річною вразливістю в OpenBSD та 271 помилку у браузері Firefox.
Fable 5, реліз якої відбувся 9 червня, використовує ту саму модель Mythos, однак має додаткові класифікатори безпеки. Вони перехоплюють запити, які визначають як потенційно небезпечні, та переспрямовують до менш ефективної моделі.
В Anthropic зазначали, що обмеження зробили Fable 5 безпечнішою для загального використання. За словами Джошуа Радда, різниця між цими двома моделями не така велика, а класифікатори не забезпечують надійного захисту від зловживання.
Офіційно приводом для заборони Fable 5 став злам цієї моделі. Уряд США повідомив представників Anthropic, що знає про лазівку, яка дозволяє обійти класифікатори безпеки й потенційно отримати доступ до ключових функцій у сфері кібербезпеки. В Anthropic заявляють, що отримали лише усне попередження.
Читайте также: Новий витік даних про iPhone Ultra: Samsung M16 OLED ззовні, M14 всередині та інші деталі
Про злам моделі Міністерство торгівлі повідомили представники Amazon, одного з ключових інвесторів Anthropic. Водночас дослідник у сфері ШІ під ніком “Pliny the Liberator” оприлюднив в X та GitHub те, що, за його словами, є повним системним доступом до Fable 5.
В Anthropic заперечують звинувачення й заявляють, що злам був не універсальним, а вузькоспеціалізованим й не обходить захист Fable 5. Окрім цього в компанії вказують, що подібні вразливості й в інших ШІ-моделей, зокрема, GPT-5.5 від OpenAI.
На захист Anthropic став колишній керівник служби безпеки Facebook Алекс Стамос. Однак радник Трампа Девід Сакс відповів на це, що “важко зрозуміти, як злам системи, що може становити загрозу кібербезпеці, можна вважати не серйозним”.
2 червня адміністрація Трампа випустила наказ, яким зобов’язала всі компанії у сфері ШІ добровільно надавати уряду попередній доступ до експериментальних моделей упродовж місяця до офіційного релізу. Fable 5 вийшла через тиждень, ігноруючи вимоги американського уряду. Тож заборона фактично виглядає як примус до співробітництва.
Не Mythos єдиним. Інші небезпечні ШІ-моделі вже на підході
Обмеження на доступ до Mythos та Fable 5 торкнулись також партнерів Anthropic в Австралії, Великій Британії, Канаді та Новій Зеландії. Розвідки всіх цих країн виступили зі спільною заявою, що передові моделі ШІ вже за кілька місяців здатні будуть дестабілізувати роботу урядів та бізнесу.
Експерти з кібербезпеки CyberScoop зазначили, що вказані у звіті Amazon загрози вже можна реалізувати за допомогою моделей Claude Opus та Claude Sonnet, а також китайських ШІ-моделей з відкритим вихідним кодом.
Наразі Mythos та Fable 5 залишаються недоступними для більшості користувачів. Водночас Anthropic продовжує тісно співпрацювати з АНБ в рамках програми Project Glasswing. У компанії заявляють, що близько 6 її інженерів працюють в АНБ як провідних співробітників, адаптуючи та налаштовуючи Mythos під конкретні завдання. При цьому вказується, що співпраця може стосуватись можливих проникнень у мережі, контрольовані Китаєм та Іраном.
Читайте также: CAPCOM проведе нову презентацію Spotlight: покажуть Dragon’s Dogma II: Dark Arisen, Monster Hunter
Джерело: The Economist
