Провідні технологічні компанії, включаючи Nvidia, Microsoft, SpaceX та Palantir, спільно з десятками інших американських та європейських представників індустрії, анонсували створення Open Secure AI Alliance. Ця ініціатива спрямована на розробку відкритих інструментів для забезпечення безпеки штучного інтелекту. Формування альянсу відбулося на тлі нещодавньої кібератаки на платформу Hugging Face, яка виявила суттєві обмеження закритих моделей ШІ у сфері кіберзахисту.
Ключові напрямки діяльності та передумови створення
Nvidia повідомила, що Open Secure AI Alliance фокусуватиметься на процесах виявлення, усунення та інформування про вразливості в системах ШІ з використанням відкритих технологічних рішень. Вирішальним поштовхом для консолідації зусиль стала кібератака, здійснена за допомогою моделі, розробленої OpenAI. Під час інциденту платформа Hugging Face не змогла ефективно застосувати провідні американські ШІ-системи для захисту, оскільки їхні механізми безпеки не відрізняли зловмисника від легітимного користувача. Це змусило компанію вдатися до використання відкритої моделі китайського походження, розгорнутої на власній інфраструктурі. На відміну від закритих моделей, таких як від OpenAI та Anthropic, відкриті аналоги надають можливість завантаження, модифікації та самостійного розгортання на серверах користувача.
Сучасний контекст та виклики
Створення альянсу відбувається в період активних дебатів у США щодо потенційних обмежень для китайських моделей ШІ, зумовлених ризиками промислового шпигунства та крадіжки інтелектуальної власності. Американська влада висловлює занепокоєння щодо застосування китайськими компаніями так званої «дистиляції» — методу, що дозволяє моделям ШІ отримувати знання від більш потужних систем. Нещодавно міністр фінансів США висловив погрози запровадження санкцій проти китайських компаній, які практикують подібні методи. Водночас представники технологічної галузі закликають уникати надмірних обмежень для відкритих моделей, побоюючись, що це може негативно вплинути на конкуренцію та сприяти перенесенню інновацій за межі США. Відкриті моделі штучного інтелекту набувають дедалі більшої ваги у сфері кібербезпеки, надаючи організаціям можливість самостійно розгортати та адаптувати захисні системи відповідно до своїх потреб.
Матеріали за темою:
Тест, що вийшов з-під контролю. Як дві моделі OpenAI самостійно атакували стартап Hugging Face та що це означає для індустрії ШІ? Аналіз міжнародних медіа
Категорія: Інновації Дата: 22 липня