Американська компанія Anthropic, що займається розробкою штучного інтелекту, була змушена призупинити доступ до своїх найпотужніших моделей Fable 5 та Mythos 5. Рішення було прийнято у зв’язку з введенням урядом США нових експортних обмежень, зумовлених потенційними ризиками для національної безпеки. Це призвело до зупинки доступу для всіх іноземних користувачів, включаючи співробітників компанії, що перебувають за межами США.
Вплив експортних обмежень
Нові директиви, отримані 12 червня, прямо забороняють будь-яким іноземним громадянам, включно з іноземними співробітниками Anthropic, використовувати моделі Fable 5 та Mythos 5. Це стосується як користувачів, що знаходяться на території США, так і за її межами. Як наслідок, Anthropic повністю припинила доступ до цих моделей. При цьому доступ до інших, менш потужних моделей компанії залишається відкритим.
Причини обмежень та позиція Anthropic
Уряд США обґрунтував свої дії виявленим методом обходу систем безпеки моделі Fable 5, відомим як “джейлбрейк”. На думку американської влади, цей механізм може становити загрозу національній безпеці. Однак, Anthropic провела власне розслідування та дійшла висновку, що виявлені вразливості є локальними та обмеженими. Компанія наголошує, що подібні недоліки властиві й іншим публічно доступним моделям ШІ, зокрема GPT-3.5 від OpenAI. Anthropic також зазначає, що модель Fable 5 пройшла численні випробування за участю представників державних органів США та Великої Британії, а її системи безпеки є більш досконалими порівняно з попередніми поколіннями. Досі не було виявлено універсального способу повного обходу її захисних механізмів. Незважаючи на виконання юридичних вимог, Anthropic висловлює незгоду з рішенням уряду, вважаючи, що виявлення окремої потенційної вразливості не є достатньою підставою для відкликання доступу до комерційної моделі, яка використовується мільйонами людей. Компанія принесла вибачення користувачам за перебої в роботі та заявила про готовність до діалогу для вирішення цієї ситуації та відновлення доступу до моделей.
Контекст розвитку ШІ та безпеки
Компанія Anthropic представила модель Mythos 7 квітня 2026 року. Доступ до неї було надано обмеженому колу з приблизно 40 партнерських компаній, серед яких такі гіганти, як Amazon, Apple та JPMorgan Chase. Такий підхід був зумовлений потенційним ризиком використання моделі не лише для виправлення помилок, а й для зловмисного злому систем. Claude Mythos виявив тисячі критичних вразливостей, що охоплюють ключові операційні системи та браузери. Anthropic попередила, що наслідки експлуатації цих вразливостей можуть бути катастрофічними для економіки, громадської та національної безпеки. На тлі цих подій, регуляторні органи посилюють увагу до потенційних загроз, які несуть потужні моделі ШІ. Зокрема, британські фінансові установи отримали рекомендації щодо мінімізації кіберризиків, пов’язаних з атаками на основі передових ШІ-технологій. Міжнародний валютний фонд також закликав уряди до міжнародної координації у протидії кіберзагрозам, вказуючи на можливість перетворення ризиків від нових ШІ-моделей на макрофінансові шоки. Anthropic погодилася провести брифінги для міністерств фінансів та центральних банків країн G20 щодо виявлених нею кіберзагроз.