Найбільші ШІ-компанії створять незалежні комітети для контролю над розвитком ШІ

Google, Anthropic, Meta, OpenAI, xAI та Nvidia створять незалежні комітети, які стежитимуть за розвитком та безпекою систем штучного інтелекту.

Про це йдеться у документі, який підписали президент США Дональд Трамп та керівники компаній. Трамп опублікував його у своїй соціальній мережі Truth Social.

Документ передбачає чотири рівні контролю над розвитком ІІ. Зокрема, компанії створять за порадами директорів незалежні комітети, які контролюватимуть роботу внутрішніх та зовнішніх аудиторів, а також підрозділів, які відповідають за безпеку ШІ.

Компанії також залучать зовнішніх аудиторів та експертів для незалежної оцінки чинних механізмів контролю. Крім того, всередині кожної організації працюватимуть спеціальні системи для відстеження можливостей ШІ-моделей та перевірки їхньої відповідності вимогам безпеки на етапах навчання та впровадження.

Особливу увагу буде приділено кібербезпеці, біологічним та хімічним загрозам. Компанії мають намір контролювати, щоб ШІ-моделі не отримували ненавмисного доступу до технічних систем і не могли зламувати їх.

Крім того, компанії створять спеціальні підрозділи, які стежитимуть за роботою систем контролю, моніторингу та виявлення потенційних загроз.

У документі наголошується, що надалі ці заходи можуть бути закріплені законодавчо. Компанії також домовилися регулярно проводити консультації щодо розробки загальних стандартів та передових практик у сфері безпеки ШІ.