В США биологическое оружие, созданное ИИ, стало навязчивой идеей

Биологическое оружие, созданное с помощью искусственного интеллекта (ИИ), стало последней навязчивой идеей Вашингтона в сфере безопасности, пишет Bloomberg.

Такие инструменты, как ChatGPT, могут помочь террористам идентифицировать мощные биологические агенты и обеспечить безопасность материалов, необходимых для их создания.

Пройдет совсем немного времени, прежде чем ИИ сможет не только помочь воссоздать существующие патогены, но и разработать потенциально более опасные.

ИИ может помочь создать оружие массового поражения — не такое, которое военные создают в отдаленных пустынях, а такое, которое можно изготовить в подвале или в школьной лаборатории.

Сочетание инноваций — синтетической биологии и искусственного интеллекта — может стать кошмаром для правительств, которые не спешат внедрять системы надзора.

По мере того, как генеративный ИИ продолжает совершенствоваться, люди смогут использовать его для «создания самых отвратительных вещей», сказал Кевин Эсвельт, биолог и доцент Массачусетского технологического института, имея в виду вирусы и токсины, которых в настоящее время не существует. «Сегодня мы не можем защититься от этого».

Президент США Джо Байден, начальник его штаба, его советник по национальной безопасности и вице-президент Камала Харрис проявили личный интерес к проблеме, отмечает агентство.

Ученые также хотят, чтобы их считали ответственными пользователями ИИ. По состоянию на 8 июля 174 ученых подписали письмо, в котором обязались использовать ИИ для поддержки исследований, которые предотвращают сценарии конца света, путем тщательного мониторинга программного обеспечения и предоставления отчетов о соответствующих практиках. Преимущества ИИ «намного перевешивают потенциальный вред», — говорится в письме, подписанном видными деятелями, от лауреата Нобелевской премии Фрэнсиса Арнольда до пионера генома Джорджа Черча.

«Меня беспокоит то, что государства, а не отдельные лица, могут превратить биологию в оружие, получив доступ к чат-ботам», — сказал Дрю Энди, доцент кафедры биоинженерии в Стэнфордском университете.

Как сообщал, в Вашингтоне чиновники администрации Байдена призывают американские технологические компании опережать конкурентов, особенно в Китае, где амбиции доминировать в областях как ИИ, так и биотехнологий заставляют страну вкладывать значительные средства в синтетическую биологию и накапливать генетическую информацию.