Эксперт считает обязательным создание систем для проверки защищённости ИИ-решений

Системы проверки защищённости систем практикуются по всему миру, и здесь есть несколько решений. Рынок средств защиты систем искусственного интеллекта (ИИ) уже вырос в несколько раз, заявил REX доцент кафедра информатики РЭУ им. Г. В. Плеханова Александр Тимофеев.

Самое популярное - это тестирование в автоматическом режиме. Во многих странах уже не раз были прецеденты, когда неправильное использование ИИ приводило к последствиям вреда бизнесу и личности, которые могут возникнуть в результате использования систем с искусственным интеллектом (ИИ).

Безопасность ИИ может быть нарушена как человеческим фактором, так и техническими проблемами, включая системы мониторинга рисков и слабой надёжностью. В опросах, проводимых среди сообщества по обработке естественного языка, почти 40% считают, что решения ИИ могут привести к катастрофе.

Стоит разделить защищённость на две составляющие: либо устойчивость модели и появление «шумов» в модели, либо этические проблемы и выравнивание данных экспертным или ручным путём.

Текущие риски связывают с отказами системы, предвзятостью и «перекосами» в отслеживаниях с использованием ИИ, цифровыми манипуляциями с потерями контроля по ситуации. Системы искусственного интеллекта часто уязвимы. Добавление определённых незаметных возмущений в данные могут привести к его неправильной классификации и достоверности.

Любая система ИИ, используемая для оценки другой системы ИИ, должна быть устойчивой к противодействию. Даже в хороших моделях ИИ не хватает полного спектра набора как данных, так и выводов.

Объяснение того, почему было принято то или иное решение или «обеспечение справедливого выбора» всё равно упирается в автоматический фильтр. Возможно, для внедрения систем с ИИ на предприятиях необходимо внедрить ГОСТ на безопасность применения таких систем.

На российском рынке систем для проверки защищённости ИИ-решения практически нет. Учёные НТИ создают такие. Их надо больше. Мало того, сами системы на проверку безопасности также должны проходить сертификацию.

БУДЬТЕ В КУРСЕ

• 21.11.23   Создатели нейросетей упускают из виду одну из важнейших проблем
• 03.11.23   Технологии искусственного интеллекта радикально трансформируют рынок труда
• 27.09.23   Эксперт предложил распространить успехи использования ИИ в странах БРИКС и ШОС
• 27.09.23   Магистральное направление ИИ – «большое железо», выигрывают владельцы серверных парков

Как сообщал REX, учёные Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ разработали решение для проверки устойчивости ИИ-систем к кибератакам.