Microsoft назвала попередженням інцидент із зломом стартапу AІ-моделлю OpenAI

Пригода зі зломом системи стартапу Hugging Face моделлю штучного інтелекту (AІ) американської компанії OpenAI – розробника чат-бота ChatGPT – є попередженням для всієї індустрії.

Як передає Financial Times, про це заявив генеральний директор з розвитку AІ в Microsoft та співзасновник Google DeepMind Мустафа Сулейман.

“Це дуже потужні [інструменти], і з ними потрібно поводитися з великою обережністю. Нам необхідно приділяти пильну увагу деталям. Моделі стають дедалі більш розвиненими, і я вважаю, що це свого роду попереджувальний сигнал”, – заявив Сулейман.

У свою чергу, глава служби безпеки Microsoft Хайєт Галлот зазначила, що у компанії “немає вибору”, крім як вкладати кошти в розробку захисту від атак з боку AІ.

16 липня Hugging Face, яка дозволяє творцям моделей AІ та продуктів на їх основі обмінюватися даними та модифікувати на їх основі свої напрацювання, повідомила, що зафіксувала несанкціоноване проникнення у свої системи. Компанія назвала інцидент безпрецедентним через те, що злом був “від початку і до кінця” організований AІ-агентом. 22 липня OpenAI повідомила, що атаку організували її моделі AІ, які під час випробувань змогли “втекти” із внутрішньої ізольованої системи у всесвітню мережу та шукали відповіді на тестові завдання у базах даних Hugging Face.