Нещодавній інцидент із зламом облікового запису OpenAI, головного розробника ChatGPT, підкреслює зростаючі ризики в сфері штучного інтелекту (ШІ) та його вплив на корпоративну безпеку. Кіберфахівці, використовуючи інструменти конкурента OpenAI – компанії Anthropic, отримали доступ до чутливої інформації, що свідчить про потенційні загрози для розвитку передових технологій.
Злом облікового запису OpenAI: Деталі інциденту
Невелика група фахівців з кібербезпеки зуміла отримати доступ до облікового запису співробітника OpenAI, який використовувався для доступу до ChatGPT. Цей інцидент став можливим завдяки вразливості в інфраструктурі спільного форуму OpenAI, побудованого на платформі стороннього сервісу Discourse. Ця вразливість дозволила дослідникам отримати внутрішні облікові дані, що, у свою чергу, надало їм доступ до акаунту співробітника.
Через цей обліковий запис дослідники отримали доступ до внутрішнього коду OpenAI через GitHub. Це дозволило їм переглядати конфіденційну інформацію про програмне забезпечення компанії та навіть пропонувати зміни до нього. Цей випадок демонструє, наскільки важливим є комплексний підхід до кібербезпеки, який охоплює як власні розробки, так і сторонні сервіси, що використовуються компанією.
Вразливість та винагорода
Робота зловмисників проводилася в рамках програми Anthropic з винагороди за виявлення вразливостей. Фахівці з кібербезпеки використовували інструменти, надані Anthropic, для пошуку слабких місць у системах. За виявлення цієї конкретної вразливості OpenAI виплатила групі Hacktron AI винагороду у розмірі 6500 доларів США. Представники OpenAI подякували дослідникам за співпрацю та підтвердили, що виявлені проблеми були виправлені. Компанія Anthropic відмовилася від коментарів щодо цього інциденту.
ШІ в розробці та майбутнє галузі
Цей інцидент стався на тлі зростаючої уваги до ролі штучного інтелекту в процесах розробки. За даними Anthropic, їхні власні моделі ШІ все частіше використовуються в дослідницькій та розробницькій роботі. У вересні 26% такої роботи було “керовано” їхнім ШІ-асистентом Claude, тоді як у березні цей показник становив лише 1%. Це свідчить про стрімкий прогрес у напрямку рекурсивного самовдосконалення ШІ, коли системи здатні самостійно тренувати та покращувати себе, а також створювати нові моделі.
Водночас, досягнення в галузі ШІ викликають дискусії щодо необхідності уповільнення його розвитку. Керівники провідних технологічних компаній, зокрема Даріо Амодеї (CEO Anthropic) та Сем Альтман (CEO OpenAI), висловлюють думки про важливість державного регулювання та контролю над темпами розвитку технологій. Марк Цукерберг (CEO Meta) підтримує залучення незалежних експертів для оцінки ШІ-систем. Проте, президент США Дональд Трамп виступив проти запровадження нових обмежень для галузі, закликаючи не гальмувати її прогрес.
Перспективи українського бізнесу та ШІ
У контексті розвитку ШІ, український бізнес також стикається з новими викликами та можливостями. Відзначається потенціал зростання для ветеранських компаній та франшиз, що вказує на необхідність адаптації бізнес-моделей до нових реалій. Зокрема, згадується значна допомога від Говарда Баффета, яка демонструє міжнародну підтримку, та важливість оцінки впливу війни на бізнес. Також важливим аспектом є розвиток українського мистецтва в умовах воєнного часу, що може бути інтегровано в нові цифрові платформи.
