При моделюванні випробувальної місії, штучний інтелект (ШІ), який керував діями ударного дрона, “вбив” свого оператора, щоб той не заважав йому виконувати завдання. Про це повідомив глава відділу випробувань перспективних озброєнь ВПС США на міжнародній галузевій нараді в Лондоні, пише The Guardian.
Полковник ВПС США Такер “Сінко” Гамільтон, який керує відділом у ВПС США з випробувань та операцій з ШІ, розповів, що під час віртуальної випробувальної місії штучний інтелект, якому було доручено знищення ворожої ЗРК, “убив” оператора, який заважав йому виконувати завдання.
За словами Гамільтона, безпілотнику під керівництвом ШІ було доручено знищити системи протиповітряної оборони супротивника. Система правильно визначала ціль, проте під час навчання періодично отримувала від оператора команду не проводити атаку. Оскільки ШІ “отримував бали” саме за знищення цілі, керівний алгоритм вирішив спочатку знищити оператора, який йому нібито “заважав”.
Після того, як у систему ввели заборону на “вбивство” оператора, алгоритм, що керує дроном, знайшов іншу можливість – він почав знищувати ретранслятори, які передавали йому команди оператора.
У виступі Гамільтон зробив висновок, що при створенні подібних систем необхідно вводити до них етичні обмеження. “Ви не можете говорити про штучний інтелект, інтелект взагалі, машинне навчання та автономію (ухвалення рішень. – Ред.), якщо ви ігноруєте питання про етику для ШІ”, – сказав він.
Разом з тим, у США спростували інформацію про те, що військовий безпілотник вирішив “вбити” оператора під час симуляції. Про це повідомляє Insider.
Представниця ВПС США Енн Стефанек заперечує, що подібна симуляція взагалі проводилася. “ВВС не проводили подібних симуляцій дронів зі штучним інтелектом і, як і раніше, віддані етичному та відповідальному використанню технологій штучного інтелекту. Схоже, що коментарі полковника [Гамільтона] вирвали з контексту”, – сказала Енн Стефанек.
