Человечеству нужен прозрачный и справедливый искусственный интеллект

Угрозы от внедрения искусственного интеллекта превышают пользу
31 декабря 2021  10:12 Отправить по email
Печать

Искусственный интеллект (ИИ) и машинное обучение могут внести серьёзный вклад в решение некоторых из самых трудноразрешимых проблем нашего времени — от создания совершенного и дешевого лекарства от самых тяжёлых болезней до управления экономикой. Но пока мы являемся свидетелями тому, как наравне с пользой они способны причинить вред. И дело не в несовершенстве технологии, а в направлении, по которому движется её развитие.

Сегодня массивные наборы данных, из которых программируются алгоритмы для распознавания закономерностей, используются для прогнозирования поведения людей и управления ими. Всё чаще ИИ и машинное обучение используются для замены человеческих решений автоматизированным принятием решений от имени людей. Это происходит в сферах, которые могут существенно повлиять на жизнь людей — в банках или визовых центрах, в медицинских и образовательных учреждениях.

Вычисления нейронных сетей происходят в так называемом «черном ящике», к которому может не иметь доступа даже заказчик алгоритма. Самые большие наборы данных и алгоритмическая активность генерируются глобальными социальными сетями, которые отслеживают каждое наше действие в сети Интернет. Эти наборы данных используются для прогнозирования и формирования наших потребностей и управления нашими желаниями крупными торговыми компаниями, международными консалтинговыми агентствами и банками развития — якобы для ускорения экономического роста. Но рост, особенно в экономически развитых странах, так и не происходит.

ИИ используется в процессе принятия государственных решений, планирования и распределения ресурсов, но такие системы не предполагают динамику и наличие обратной связи, то есть носят односторонний, директивный (и здесь директива исходит не от человека, а от машины) характер.

Читайте также: Рабство, алгоритм и имитация искусственного интеллекта

Можно выделить несколько бросающихся в глаза угроз использования ИИ в перечисленных направлениях.

Всё более широкое использование ИИ при принятии государственных решений и оказании государственных услуг поднимает важные вопросы, касающиеся справедливости и прав человека. Индикатором важности проблемы является то, как производятся цифровые данные. В самих наборах данных есть неточности и пробелы. Тот факт, что большая часть населения мира не подключена к Интернету и глобальным социальным сетям, которые стимулируют новую экономику и создают «новую нормальность», основанную на данных, означает, что для принятия решений и оказания услуг на уровне государства их просто не существует.

Кроме того, системы ИИ не подлежат подотчетности и регулированию, необходимому для снижения рисков, которые они представляют для общества.

Использование ИИ на промышленных предприятиях приводит к тому, что автоматизация вытесняет низкоквалифицированные кадры с заводов и фабрик.

Пострадать могут не только синие воротнички, но и работники умственного труда — от офисных клерков до учителей и врачей.

Сюда стоит добавить отсутствие субъектности права у ИИ. Нейросеть не понесет ответственность за сбивший человека беспилотник или за неверный диагноз и протокол лечения, созданный ИИ.

Эти угрозы настолько значительны, что появилось несколько международных форумов, декларирующих необходимость создания «хорошего», «этичного» и «ответственного» ИИ. Но большинство инициатив представляют собой технические решения социальных и политических проблем. Это означает, что они разрабатываются вне рамок прав человека и вне человеческого сознания.

Из факта наличия человеческого сознания вытекает право людей на частную жизнь и персональные данные, которые человек может держать в тайне от остальных. Но машинные алгоритмы нарушают эти права, так как при их внедрении заказчики систем с ИИ частенько руководствуются «общим благом» или «общими интересами». Иногда в качестве аргумента преподносится удобство пользователя и необратимость цифровой революции.

Читайте также: Искусственный интеллект не создан, но уже требует особой этики

В какой-то момент международное сообщество и отдельные страны начали откликаться на глобальный призыв к созданию ответственного искусственного интеллекта. В 2019 году 42 страны подписали принципы развития ИИ в ОЭСР.

Совсем недавно ЮНЕСКО разработала Рекомендации по этике в области ИИ, которые были приняты на 41-й Генеральной Ассамблее ООН. Рекомендации сосредоточены на защите основных прав и свобод, экологической устойчивости и разнообразии.

Некоторые специалисты говорят о том, что потенциальный вред от систем ИИ можно уменьшить за счёт грамотного управления данными, включив в него защиту права людей или введя обязательные требования к защите данных и кибербезопасности и штрафах за их нарушения. Но часто права людей противоречат целям и задачам заказчиков нейросетей.

Тогда решение может быть найдено в разработке кибернетических систем с моментальной обратной связью от объекта воздействия, что означает прямой контроль общества над созданием и внедрением цифровых технологий.

Но тогда мы получим совершенно другой социально-экономический базис.

Готовы ли мы к нему?

Подписывайтесь на наш канал в Telegram или в Дзен.
Будьте всегда в курсе главных событий дня.

Комментарии читателей (2):

antemir62
Карма: 910
31.12.2021 18:21, #47090
Ещё один уровень защиты от ошибок ИИ - его решения должны иметь право совещательного голоса. Последнее решение должно быть за людьми .
cut
Карма: 30
01.01.2022 18:19, #47096
Первый вопрос, который возникает, что мы вкладываем в понятие ИИ?
Второй вопрос, для каких поставленных задач будем использовать ИИ.
Третий вопрос, решения, которые будет предоставлять ИИ непререкаемые?
Абсурдность создания ИИ, заключатся в том, что мы ставим под сомнение собственные интеллектуальные способности игнорируя возникающие противоречия.
Из тех сомнений, которые возникают на первом этапе(по крайней мере у меня) планирования создания ИИ, вывод напрашивается весьма печальный:
Никто в мире не хочет решать проблемы социума, тем более брать на себя ответственность за принятие тех или иных проектов позволяющих определить дальнейшее развитие человечества к цивилизации. Упование на мифический ИИ дает оттянуть время сохраняя незаслуженный статус.
Специальная военная операция на Украине проводится в интересах
47.9% Российского государства
СВО на Украине закончится
Подписывайтесь на ИА REX
Войти в учетную запись
Войти через соцсеть