Эксперт считает обязательным создание систем для проверки защищённости ИИ-решений

Эксперт Тимофеев: система для проверки защищённости ИИ-решений обязательна
2 октября 2023  17:06 Отправить по email
Печать

Системы проверки защищённости систем практикуются по всему миру, и здесь есть несколько решений. Рынок средств защиты систем искусственного интеллекта (ИИ) уже вырос в несколько раз, заявил REX доцент кафедра информатики РЭУ им. Г. В. Плеханова Александр Тимофеев.

Самое популярное - это тестирование в автоматическом режиме. Во многих странах уже не раз были прецеденты, когда неправильное использование ИИ приводило к последствиям вреда бизнесу и личности, которые могут возникнуть в результате использования систем с искусственным интеллектом (ИИ).

Безопасность ИИ может быть нарушена как человеческим фактором, так и техническими проблемами, включая системы мониторинга рисков и слабой надёжностью. В опросах, проводимых среди сообщества по обработке естественного языка, почти 40% считают, что решения ИИ могут привести к катастрофе.

Стоит разделить защищённость на две составляющие: либо устойчивость модели и появление «шумов» в модели, либо этические проблемы и выравнивание данных экспертным или ручным путём.

Текущие риски связывают с отказами системы, предвзятостью и «перекосами» в отслеживаниях с использованием ИИ, цифровыми манипуляциями с потерями контроля по ситуации. Системы искусственного интеллекта часто уязвимы. Добавление определённых незаметных возмущений в данные могут привести к его неправильной классификации и достоверности.

Любая система ИИ, используемая для оценки другой системы ИИ, должна быть устойчивой к противодействию. Даже в хороших моделях ИИ не хватает полного спектра набора как данных, так и выводов.

Объяснение того, почему было принято то или иное решение или «обеспечение справедливого выбора» всё равно упирается в автоматический фильтр. Возможно, для внедрения систем с ИИ на предприятиях необходимо внедрить ГОСТ на безопасность применения таких систем.

На российском рынке систем для проверки защищённости ИИ-решения практически нет. Учёные НТИ создают такие. Их надо больше. Мало того, сами системы на проверку безопасности также должны проходить сертификацию.

БУДЬТЕ В КУРСЕ

Как сообщал REX, учёные Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ разработали решение для проверки устойчивости ИИ-систем к кибератакам.

Подписывайтесь на наш канал в Telegram или в Дзен.
Будьте всегда в курсе главных событий дня.

Комментарии читателей (0):

К этому материалу нет комментариев. Оставьте комментарий первым!
Планируете ли Вы принять участие в голосовании на выборах Президента России?
Поддерживаете ли Вы возвращение памятника Дзержинскому Ф.Э. на Лубянскую площадь в Москве?
71.8% Да
Подписывайтесь на ИА REX
Войти в учетную запись
Войти через соцсеть