Системы проверки защищённости систем практикуются по всему миру, и здесь есть несколько решений. Рынок средств защиты систем искусственного интеллекта (ИИ) уже вырос в несколько раз, заявил REX доцент кафедра информатики РЭУ им. Г. В. Плеханова Александр Тимофеев.
Самое популярное - это тестирование в автоматическом режиме. Во многих странах уже не раз были прецеденты, когда неправильное использование ИИ приводило к последствиям вреда бизнесу и личности, которые могут возникнуть в результате использования систем с искусственным интеллектом (ИИ).
Безопасность ИИ может быть нарушена как человеческим фактором, так и техническими проблемами, включая системы мониторинга рисков и слабой надёжностью. В опросах, проводимых среди сообщества по обработке естественного языка, почти 40% считают, что решения ИИ могут привести к катастрофе.
Стоит разделить защищённость на две составляющие: либо устойчивость модели и появление «шумов» в модели, либо этические проблемы и выравнивание данных экспертным или ручным путём.
Текущие риски связывают с отказами системы, предвзятостью и «перекосами» в отслеживаниях с использованием ИИ, цифровыми манипуляциями с потерями контроля по ситуации. Системы искусственного интеллекта часто уязвимы. Добавление определённых незаметных возмущений в данные могут привести к его неправильной классификации и достоверности.
Любая система ИИ, используемая для оценки другой системы ИИ, должна быть устойчивой к противодействию. Даже в хороших моделях ИИ не хватает полного спектра набора как данных, так и выводов.
Объяснение того, почему было принято то или иное решение или «обеспечение справедливого выбора» всё равно упирается в автоматический фильтр. Возможно, для внедрения систем с ИИ на предприятиях необходимо внедрить ГОСТ на безопасность применения таких систем.
На российском рынке систем для проверки защищённости ИИ-решения практически нет. Учёные НТИ создают такие. Их надо больше. Мало того, сами системы на проверку безопасности также должны проходить сертификацию.
БУДЬТЕ В КУРСЕ
- 21.11.23 Создатели нейросетей упускают из виду одну из важнейших проблем
- 03.11.23 Технологии искусственного интеллекта радикально трансформируют рынок труда
- 27.09.23 Эксперт предложил распространить успехи использования ИИ в странах БРИКС и ШОС
- 27.09.23 Магистральное направление ИИ – «большое железо», выигрывают владельцы серверных парков
Как сообщал REX, учёные Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ разработали решение для проверки устойчивости ИИ-систем к кибератакам.
Комментарии читателей (0):