Дослідження: Загроза знищення людства ШІ необґрунтована

Міжнародна група вчених із Німеччини та Великобританії встановила, що загроза знищення людства штучним інтелектом є необґрунтованою.

Такого висновку фахівці дійшли за підсумками дослідження, результати якого опубліковані на сайті Асоціації комп’ютерної лінгвістики (ACL).

Дослідники хотіли отримати відповідь на питання, чи можуть моделі на основі штучного інтелекту (ШІ) вийти з покори людей та створити загрозу для людства.

Фахівці зосередилися на так званих емерджентних здібностях – навичках, які розвиваються у ШІ незалежно, а не навмисно кодуються у програмі творцями нейромережі.

Команда провела експерименти із чотирма різними ШІ-моделями, даючи їм завдання, які раніше були визначені як емерджентні. Вчені хотіли з’ясувати, чи здатний штучний інтелект створювати нові способи виконати доручення або вони просто складним чином діють у рамках свого коду.

Для всіх чотирьох моделей здатність дотримуватись інструкцій, запам’ятовування та лінгвістична компетентність змогли пояснити всі показані здібності. Вчені не знайшли жодних ознак незалежної поведінки у розглянутих нейромереж.

“Існували побоювання, що в міру того, як моделі ставатимуть все більше і більше, вони зможуть вирішувати нові проблеми, які ми сьогодні не можемо передбачити. Це створює загрозу того, що ці більші моделі можуть придбати небезпечні здібності, включаючи міркування та планування. Наше дослідження показує, що страх того, що модель вийде з-під контролю і зробить щось несподіване, інноваційне та потенційно небезпечне, необґрунтований”, – зазначив співавтор роботи Тайяр Мадабуші.

Вчені додали, що сьогодні моделі штучного інтелекту не мають інтелекту як такого. Однак це не означає, що вони абсолютно нешкідливі і не загрожують людям.