ЕС намерен защитить людей от искусственного интеллекта

Декларация Комитета министров Совета Европы о рисках при принятии решений с помощью компьютера или искусственного интеллекта в области системы социальной защиты принята 17 марта 2021 года. О этом сообщается на сайте Совета Европы.

Восторг от удобств, созданных технологиями искусственного интеллекта, сменяется тревогой, вызванной его неуправляемостью человеком. Самообучающиеся системы признаются революционными технологиями, претендующими на замену человеческого интеллекта во многих областях. ЕС одним из первых поднял вопрос о нарушении прав человека при использовании искусственного интеллекта в процессах принятия решений.

В Декларации отмечаются преимущества использования ЭВМ и искусственного интеллекта (ИИ). Однако при этом делается акцент на том, что «технологии могут включать в себя «код», использующийся при принятии решений, который, в зависимости от его характеристик или методов обучения, может ошибочно лишать людей прав и льгот, тем самым посягая на их социальные права».

В Декларации звучит призыв обеспечить при использовании алгоритмов ИИ справедливость и выполнение требований этических норм для всех людей.

Нерегулируемое развитие компьютеризированных или автоматизированных систем принятия решений в сочетании с отсутствием прозрачности и недостаточным общественным контролем, а также их использование в предоставлении социальных услуг создает определенные риски. Если эти системы не будут разработаны и использованы в соответствии с принципами прозрачности и правовой определенности, они могут усилить предвзятость и повысить социальные риски. Впоследствии это может привести к более сильному негативному воздействию на наиболее уязвимых членов общества.

Предвзятые или ошибочные автоматизированные решения могут привести к увеличению бедности, крайней нищете или даже появлению большего количества бездомных и причинить серьезный или непоправимый вред людям.

В Декларации подчеркивается, что при принятии Повестки Организации Объединенных Наций в области устойчивого развития на период до 2030 года все государства — члены Совета Европы подтвердили, что достоинство человека имеет основополагающее значение.

БУДЬТЕ В КУРСЕ

• 07.12.23   Люди не должны учить роботов плохому
• 03.05.21   ИИ поможет космическим кораблям уклоняться от космического мусора
• 16.04.21   ЕС решил запретить использование ИИ-технологии распознавания лиц и аналогов
• 21.03.21   Искусственный интеллект в медицине – зеркало социального неравенства

В Декларации Комитет министров обращает особое внимание государств — членов ЕС на следующие проблемы:

• возможные риски для прав человека, включая социальные права, которые могут возникнуть в результате принятия государственными органами решений с помощью компьютера или ИИ;
• необходимость обеспечения разработки и внедрения систем принятия решений с использованием компьютеров или искусственного интеллекта в соответствии с принципами правовой определенности, законности, качества данных, исключение дискриминации и непрозрачности;
• необходимость надзора со стороны человека за решениями, принимаемыми с помощью компьютера или ИИ, с целью смягчения и предотвращения нарушения социальных прав людей;
• необходимость эффективных мер по защите людей от непоправимого вреда, включая бедность, крайнюю нищету или бездомность, в результате реализации решений ИИ в области социальных услуг;
• потребность в ответственности и подотчетности субъектов ИИ, занимающихся проектированием, разработкой, развертыванием или оценкой систем ИИ;
• проактивный подход для обеспечения возможности отстаивания своих социальных прав теми людьми, кого затрагивают решения ИИ.