Корпорация RAND собрала ряд ведущих экспертов в области искусственного интеллекта и ядерной стратегии для серии семинаров. На семинарах экспертов попросили представить состояние систем ядерного оружия в 2040 году и дать ответ на вопрос о роли искусственного интеллекта: будет ли он стабилизирующим или дестабилизирующим фактором к этому времени.
Перспектива первая – скептицизм в отношении технологии
Многие эксперты по искусственному интеллекту скептически отнеслись к тому, что к этому времени данная технология будет играть значительную роль в принятии решений о применении ядерного оружия. Прежде всего, искусственный интеллект должен преодолеть свою уязвимость в отношении взлома, а также он должен быть достаточно натренирован, например, путем необычного поведения, чтобы исключить ложные прецеденты.
Перспектива вторая - ядерная напряженность будет расти
По мнению ядерных стратегов, для того чтобы поднять уровень ядерной напряженности, и не требуется, чтобы система искусственного интеллекта работала идеально.
Противнику нужно только думать, что искусственный интеллект работает идеально, и реагировать соответствующим образом. Так каждая из ядерных держав будет думать, что система предупреждения и управления ядерным оружием его противника, построенная на искусственном интеллекте, может быть более совершенной, чем его собственная. Результатом станет новая эра конкуренции и недоверия между ядерными соперниками.
Перспектива третья – искусственный интеллект узнает выигрышный ход, чтобы не играть в эту опасную игру
Только незначительная часть экспертов выразили идеалистический взгляд на ситуацию, надежду, что искусственный интеллект когда-нибудь, в далеком будущем, станет настолько надежным, что предотвратит угрозу ядерной войны. Его можно было бы использовать, например, для отслеживания развития ядерных технологий и обеспечения соблюдения странами соглашений о нераспространении ядерного оружия.
Или он может уберечь людей от ошибок и плохих решений, принятых под давлением, в ходе ядерного противостояния. Как сказал один эксперт, будущий искусственный интеллект может сделать вывод, как и компьютер в фильме 1983 года «WarGames», что единственный выигрышный шаг в ядерной войне - это не играть в эту игру.
БУДЬТЕ В КУРСЕ
В связи с этим следует вспомнить слова подполковника Вооруженных сил СССР Станислава Евграфовича Петрова: «Мы умнее компьютеров. Мы их создали». Станислав Евграфович 26 сентября 1983 года распознал ошибочный сигнал об американском ракетно-ядерном ударе от космических аппаратов системы предупреждения о ракетном нападении и предотвратил пуск ракет по целям в США.
Комментарии читателей (0):