В адміністрації Трампа виникли нові претензії до розробника ШІ Claude

Anthropic довелося закрити доступ до Fable 5 і Mythos 5 за розпорядженням уряду США

Американська команія Anthropic, яка розробляє штучний інтелект Claude, виступила із заявою після того, як адміністрація президента Дональда Трампа закрила найпотужніші ШІ-моделі Anthropic для використання іноземними урядами, компаніями та фізособами, включно зі співробітниками самої компанії без громадянства США.

У п'ятницю, 12 червня, уряд США, посилаючись на органи національної безпеки, видав директиву з експортного контролю, що забороняє доступ до Fable 5 та Mythos 5 для всіх іноземних громадян як усередині, так і за межами Сполучених Штатів.

Згідно з листом Міністерства торгівлі, для експорту, реекспорту або внутрішнього передавання цих моделей Anthropic потрібна ліцензія. Крім того, компанії доведеться подати додаткову заявку на отримання ліцензій, що підлягають індивідуальній перевірці. Недотримання вимог спричинить фінансові та цивільні санкції.

"Через це розпорядження ми змушені раптово відключити доступ до Fable 5 та Mythos 5 для всіх наших клієнтів, щоб забезпечити дотримання вимог. Доступ до решти моделей Anthropic залишиться без змін", – сказано в заяві.

В Anthropic пояснили, що, за їхньою інформацією, влада дізналася про потенційний спосіб злому Fable 5. Під джейлбрейком ШІ мається ситуація, коли хакер використовує вразливість моделі, оминаючи її етичні обмежувачі у спробі виконати заборонені дії.

Компанія вважає, що вразливості виглядають відносно простими і, за її оцінкою, виявити їх здатні загальнодоступні моделі.

"Ми виконуємо розпорядження уряду та припиняємо доступ до Fable 5 та Mythos 5 для всіх користувачів. Однак ми не погоджуємося з тим, що виявлення потенційно вразливого джейлбрейка має бути підставою для відкликання комерційної моделі, розгорнутої для сотень мільйонів людей", – заявили в Anthropic.

У компанії наголосили, що розробили надійні захисні механізми, які істотно знижують ймовірність зловживання Fable для завдань, пов'язаних з кібербезпекою.

Це не перший конфлікт між Anthropic та адміністрацією США. У лютому президент Трамп і міністр оборони Піт Гегсет звинуватили компанію у загрозі національній безпеці. Приводом стала відмова генерального директора Anthropic Даріо Амодея зняти два обмеження: використання Claude для масового стеження за американцями та для автономної зброї.

Трамп тоді заявив, що в Anthropic тепер будуть проблеми, бо він "їх вигнав, як собак". На початку березня компанію включили до "чорного списку" Пентагону. Амодей відповів, що компанія вважає рішення Пентагону незаконним і оскаржить його в суді.

Уже в квітні Міністерство фінансів США попередило найбільші банки про кіберризики, які має нова ШІ-модель компанії Anthropic – Mythos.

• Anthropic заснована у 2021 році вихідцями із OpenAI на чолі з братом і сестрою Даріо та Даніелою Амодеї. Наприкінці травня компанія закрила раунд на $65 млрд з оцінкою $965 млрд. Це зробило її найдорожчою ШІ-компанією у світі: її головного конкурента OpenAI у березні оцінили в $852 млрд.
• 2 червня Anthropic подала заявку для виходу на біржу, випередивши OpenAI, а через кілька днів закликала пригальмувати розвиток ШІ, щоб запобігти його виходу з-під контролю людини.