Искусственный интеллект может начать ядерную войну

Искусственный интеллект несёт серьезную опасность для человечества при его участии в принятии решения о нанесении ядерного удара. С подобным предупреждением выступил бывший заместитель министра обороны США Роберт Уорк.

По его мнению, запуск систем искусственного интеллекта идет по определённым параметрам и показателям, поэтому их нельзя использовать для контроля оружия ядерного поражения. Искусственный интеллект может ошибиться в оценке и определить неопасные факторы как факторы, которые представляют угрозу. Об этом пишет агентство РИА Новости со ссылкой на издание Breaking Defense.

Роберт Уорк также считает, что даже в случае, когда ИИ не может напрямую управлять ядерным оружием, его использование может привести к серьезным последствиям. Например, если он используется для анализа разведывательных данных или в системах раннего предупреждения о ракетном нападении.

В качестве примера в статье издания Breaking Defense приводится российская система «Периметр», которая может определить сейсмическую активность как ядерные взрывы. В связи с чем, «Периметр» отправит уточняющий запрос в штаб, а не получив ответа от командования, произведет запуск межконтинентальных баллистических ракет.

Роберт Уорк также приводит пример с Китаем, когда после анализа оперативных данных система искусственного интеллекта приходит к выводу, что Соединённые Штаты готовят удар по Китаю и предлагает действовать превентивно.

Безусловно, опасно отдавать решение на применение оружия на поражение искусственному интеллекту, особенно это касается ядерной сферы. Все-таки решение о применении ядерных средств поражения должен принимать человек.

Другое дело, не затеяна ли эта дискуссия для отключения таких систем как российская система «Периметр», чтобы уменьшить вероятность ответного удара по США со стороны России?