Штучний інтелект на випробуваннях в армії США вирішив вбити оператора

У ході імітаційних випробувань безпілотник ВПС, керований штучним інтелектом (ІІ), прийняв рішення вбити оператора, щоб той не заважав його зусиллям щодо виконання свого завдання.

Про це у п’ятницю повідомила газета The Guardian.

“Система почала розуміти, що, хоча вона і визначила загрозу, іноді людина-оператор наказувала їй не знищувати цю загрозу, проте за поразку мети вона отримала очки. [І система] прийняла рішення вбити оператора, тому що він заважав їй виконати завдання”, – заявив полковник Такер Гамільтон, начальник відділу випробувань та операцій ІІ ВПС США. Він також додав, що “не можна говорити про штучний інтелект, загалом інтелект, машинне навчання, автономію, якщо при цьому замовчати про етику та ІІ”.

Це не перші випробування, під час яких військові США впровадили штучний інтелект у бойову машину. Так, вони нещодавно використовували ІІ для управління винищувачем F-16.

Раніше як політики, так і лідери найбільших компаній закликали посилити регулювання у сфері ІІ. У квітні Ілон Маск заявив, що необхідно здійснювати державний контроль у галузі штучного інтелекту, оскільки ця технологія може становити загрозу для людей.