Беспилотник с ИИ на испытаниях в США решил убить своего оператора
- 2 мин
- 496 просмотров
Разумеется, никто не пострадал, так как полет был имитационный. Однако сомнительные решения беспилотника, наделенного ИИ, мягко сказать, удивили военное руководство.
Полковник ВВС США Такер Гамильтон обратил внимание на “неоднозначные” решения боевого беспилотника во время испытаний по уничтожению зенитно-ракетных комплексов. Задача, поставленная перед дроном, не предполагала идентификацию объекта (это производилось автоматически), а лишь конечное достижение цели. То есть непосредственно уничтожение ПВО. За успешное выполнение задачи беспилотнику начислялись баллы. При этом окончательное решение об открытии огня оставалось за оператором, который мог в любой момент развернуть летательный аппарат.
Вот тогда-то и выяснилось, что беспилотнику неосознанно оставили маневр, при котором он с легкостью может принять решение уничтожить своего оператора, если тот решит отменить выполнение задачи. Более того, после внесения изменений в программу и запрета на нанесение вреда оператору, беспилотник опять не растерялся. На этот раз ему “пришло в голову” решение открыть огонь по вышке связи, посредствам которой ему отдавались команды, противоречащие выполнению задачи.
Этот инцидент заставил посмотреть военных на боевое оружие с ИИ под другим ракурсом. А также задуматься об “этике применительно к ИИ” в ракурсе обсуждения новых технологий, способных к самообучению и автономности.
ИИ позволит поклонникам услышать новую песню The Beatles, исполненную голосом Джона Леннона
Комментарии
0