Според публикация от миналата седмица на The Economist, мощният AI модел Mythos на Anthropic е успял да проникне в „почти всички“ класифицирани системи, принадлежащи на Агенцията за национална сигурност (NSA) – една от най-високопоставените и най-могъщи разузнавателни агенции на правителството на САЩ – в рамките на часове по време на контролирана оценка на сигурността. Твърдението дойде от сенатор Марк Уорнър, заместник-председател на Комисията по разузнаване на Сената, който заяви, че генерал Джошуа Ръд, ръководител на NSA и Киберкомандването на САЩ, го е информирал за възможностите на модела.
„(Този инструмент) е проникнал в почти всички наши класифицирани системи, не за седмици, а за часове“, съобщава Ръд пред Марк Уорнър, цитиран от The Economist в доклад от 14 юни, който първоначално е останал незабелязан. Около седмица по-късно в няколко социални медийни платформи, цитатът многократно се тиражира, генерирайки твърдения, че моделът на Anthropic е „хакнал NSA“. В отговор на 21 юни, оригиналният автор публикува публично изявление, в което пояснява, че разказът е неверен. Пробивът е станал по време на оторизиран вътрешен симулационен тест (red-team test), при който Mythos е бил сдвоен с други защитни инструменти при силно специфични симулирани условия на околната среда.
Историята хвърля светлина върху директивата на правителството на САЩ от 12 юни, която забранява на всички чуждестранни граждани, включително служителите на Anthropic, които не са граждани на САЩ, достъп до моделите Fable 5 и Mythos 5, позовавайки се на опасения за националната сигурност. Anthropic отговори, като деактивира моделите в световен мащаб, заявявайки, че не може на практика да наложи ограничения за достъп, основани на националност, без да премахне системите за всички.
По това време правителството не предостави подробни публични доказателства за хода, който бележи първия път, когато Съединените щати прилагат контрол върху износа директно върху модел с изкуствен интелект, а не върху хардуера, който го захранва. Anthropic заяви, че полученото писмо не е уточнило основното безпокойство и че са ѝ били предоставени само устни доказателства за „потенциален тесен, не универсален джейлбрейк“, който би могъл да позволи на Fable 5 да идентифицира софтуерни уязвимости.
Цитатът на Ръд сега изглежда предоставя липсващия контекст. Оценката на сигурността е проведена на 11 юни, един ден преди забраната да бъде издадена на 12-ти. Anthropic твърди, че цитираното нарушение е било тесен джейлбрейк, такъв, който конкурентните модели, включително GPT-5.5 на OpenAI, също показват. Според компанията, маркираното поведение се е свеждало до искане към модела да анализира кодова база и да отстрани идентифицираните проблеми, което е разкрило няколко незначителни, вече известни грешки, а не истинско автономно нападателно проникване. Компанията казва, че работи за възстановяване на достъпа и подготвя съвместна рамка за управление на риска с Белия дом.
Обществената реакция в подфорума ClaudeAI на Reddit, изглежда е разделена на почти три лагера. Мнозинството разглежда историята като обвинителен акт срещу киберсигурността на правителството, позовавайки се на неспособността му да наеме необходимото ниво специалисти и историята на изтичане на информация. Втората голяма група е скептична към твърдението, смятайки го за сензационно или дори за маркетингов трик. Тази група посочва липсата на подробности за предполагаемия „взлом“ и поставя под въпрос техническия опит на шефа на NSA. Малцинството сякаш се противопоставя на скептиците, твърдейки, че наблюдателите подценяват експоненциалния растеж на възможностите на AI. Те цитират твърденията на експерти по киберсигурност, че AI е сгъстил времевите рамки на атаките от часове на минути и че дори добре поддържани проекти с отворен код виждат голям брой уязвимости.
Въпреки спора и по-широките ограничения, Anthropic продължава да работи в тясно сътрудничество с NSA по специализирано споразумение в рамките на програмата си Project Glasswing. По-рано през юни Financial Times съобщи, че приблизително шест инженери на Anthropic са директно разположени в агенцията като персонал, който адаптира и персонализира Mythos за специфични оперативни приложения, като източници посочват, че работата може да се разшири до проникване в мрежи, управлявани от други страни, включително Китай и Иран.
Източник: Tomshardware
