Создатели нейросетей упускают из виду одну из важнейших проблем

Широко разрекламированная ещё с 2019 года программа Botkin.AI заявлена, как платформа для анализа медицинских исследований с помощью технологий искусственного интеллекта (ИИ), заявил REX профессор, заместитель начальника Управления цифровой трансформации РЭУ им. Г.В. Плеханова Павел Терелянский.

Программа занимается постановкой предварительных диагнозов на основе анализа рентгеновских снимков лёгких. В сущности, за столь громким названием стоит простейшая программа сравнения изображений, которая ищет затемнённые участки картинки, там, где их не должно быть.

Программа использует нейросеть, которая обучается на основе анализа множества изображений грудной клетки с патологиями и без.

К сожалению, Росздравнадзор не представил результатов тестовых прогонов работы программы и, соответственно, неясна конкретная причина, которая позволила ведомству сделать подобный вывод.

Можно предположить, что ошибки работы программы связаны, во-первых, с несовершенством самой нейросети, когда сеть просто не удовлетворяет реальной, а не теоретической задаче распознавания изображений, тогда это несомненная ошибка разработчика.

Во-вторых, мощность и структура сети может удовлетворять требованиям задачи, но конкретные пользователи-рентгенологи снабжают сеть либо очень зашумлёнными, либо очень спорными изображениями, которые не позволяют нейросети делать правильные выводы.

В-третьих, создатели нейросетей почему-то всегда упускают из виду одну из важнейших проблем нейросетевого проектирования – а именно: до сих пор не установлены теоретические пороги обучаемости сетей.

То есть, на некотором этапе обучения произойдёт перенасыщение сети данными, и любые входные данные будут восприниматься нейросетью как «белый шум», в котором сеть будет уверенно выдавать случайные диагнозы, никак не связанные с конкретным диагностируемым случаем.

В любом случае, создатели Botkin.AI несут ответственность за внедрение и за достаточно агрессивное «проталкивание» сырого продукта на рынок.

Потребители же подобных продуктов должны понимать, что проблему перенасыщения или же «недонасыщения» нейросети данными пока никак установить невозможно, следовательно, внедрять подобные продукты нужно весьма и весьма осторожно.

Как сообщал REX, Росздравнадзор впервые приостановил применение медизделия с искусственным интеллектом (ИИ) — системы анализов Botkin.AI, «в связи с угрозой причинения вреда жизни и здоровью граждан», писал «Коммерсант».