Эксперт считает обязательным создание систем для проверки защищённости ИИ-решений

Системы проверки защищённости систем практикуются по всему миру, и здесь есть несколько решений. Рынок средств защиты систем искусственного интеллекта (ИИ) уже вырос в несколько раз, заявил REX доцент кафедра информатики РЭУ им. Г. В. Плеханова Александр Тимофеев.

Самое популярное - это тестирование в автоматическом режиме. Во многих странах уже не раз были прецеденты, когда неправильное использование ИИ приводило к последствиям вреда бизнесу и личности, которые могут возникнуть в результате использования систем с искусственным интеллектом (ИИ).

Безопасность ИИ может быть нарушена как человеческим фактором, так и техническими проблемами, включая системы мониторинга рисков и слабой надёжностью. В опросах, проводимых среди сообщества по обработке естественного языка, почти 40% считают, что решения ИИ могут привести к катастрофе.

Стоит разделить защищённость на две составляющие: либо устойчивость модели и появление «шумов» в модели, либо этические проблемы и выравнивание данных экспертным или ручным путём.

Текущие риски связывают с отказами системы, предвзятостью и «перекосами» в отслеживаниях с использованием ИИ, цифровыми манипуляциями с потерями контроля по ситуации. Системы искусственного интеллекта часто уязвимы. Добавление определённых незаметных возмущений в данные могут привести к его неправильной классификации и достоверности.

Любая система ИИ, используемая для оценки другой системы ИИ, должна быть устойчивой к противодействию. Даже в хороших моделях ИИ не хватает полного спектра набора как данных, так и выводов.

Объяснение того, почему было принято то или иное решение или «обеспечение справедливого выбора» всё равно упирается в автоматический фильтр. Возможно, для внедрения систем с ИИ на предприятиях необходимо внедрить ГОСТ на безопасность применения таких систем.

На российском рынке систем для проверки защищённости ИИ-решения практически нет. Учёные НТИ создают такие. Их надо больше. Мало того, сами системы на проверку безопасности также должны проходить сертификацию.

Как сообщал REX, учёные Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ разработали решение для проверки устойчивости ИИ-систем к кибератакам.