Госдепартамент США готовится противостоять угрозам нацбезопасности от ИИ

Доклад, подготовленный по заказу Госдепартамента США, рисует тревожную картину катастрофических рисков национальной безопасности, создаваемых быстро развивающимся искусственным интеллектом (ИИ), и предупреждает, что время, необходимое для предотвращения катастрофы, истекает. Об этом сообщает CNN.

В докладе прямо говорится, что самые передовые системы искусственного интеллекта могут, в худшем случае, «представить угрозу вымирания человеческому виду».

Предупреждение в отчете является еще одним напоминанием о том, что, хотя потенциал ИИ продолжает привлекать инвесторов и общественность, существуют и реальные опасности.

Исследователи предупреждают о двух опасностях ИИ.

Во-первых, самые передовые системы ИИ могут быть использованы в качестве оружия для нанесения потенциально необратимого ущерба.

Во-вторых, в отчете говорится, что в лабораториях искусственного интеллекта существуют частные опасения, что в какой-то момент они могут «потерять контроль» над теми самыми системами, которые разрабатывают, с «потенциально разрушительными последствиями для глобальной безопасности».

Ученые предупреждают не только о кибератаках на объекты инфраструктуры. Другие примеры, которые беспокоят авторов доклада, включают крупноммасштабные кампании по дезинформации, основанные на искусственном интеллекте, которые дестабилизируют общество и подрывают доверие к институтам; применение роботов в качестве оружия, например, атаки дронов; психологическая манипуляция; превращенные в оружие биологические и материальные науки; системы искусственного интеллекта, стремящиеся к власти, которые невозможно контролировать и которые враждебны людям.

Отчет призывает к новым решительным шагам, направленным на противодействие угрозе, включая создание нового агентства по искусственному интеллекту, введение «чрезвычайных» нормативных гарантий и ограничений на то, сколько компьютерной мощности можно использовать для обучения моделей искусственного интеллекта.

«Исследователи ожидают, что достаточно продвинутые системы ИИ будут действовать таким образом, чтобы не допустить отключения себя, — говорится в докладе, — потому что, если система ИИ выключена, она не сможет работать для достижения своей цели».

Как отмечает REX, почти год назад Джеффри Хинтон, известный как «Крестный отец искусственного интеллекта», уволился с работы в Google и сообщил о технологии, которую он помогал разрабатывать. Хинтон заявил, что вероятность того, что ИИ приведет к вымиранию человечества в течение следующих трех десятилетий, составляет 10%, следует из публикации.

Россия входит в десятку стран-лидеров по объему совокупных вычислительных мощностей с использованием искусственного интеллекта (ИИ), сообщило Минэкономразвития России.