Во всём мире учёные, предприниматели, законодатели и даже творческая общественность бьют тревогу относительно возможного выхода из-под контроля человека роботов и особенно искусственного интеллекта (ИИ), заявила REX ведущий аналитик Freedom Finance Global Наталья Мильчакова.
Об опасности бесконтрольного обучения машин человеческим навыкам и непредсказуемых последствиях выхода роботов и ИИ из-под контроля ещё в конце XX и начале XXI века предупреждали мир такие выдающиеся люди, как физик Стивен Хокинг и футуролог Рэймонд Курцвейл, а в наши дни остановить модное увлечение обучением нейросетей призывает бизнесмен Илон Маск.
В Евросоюзе чиновники и юристы разных стран, входящих в ЕС, обсуждают вопрос о том, например, как установить предел доступа искусственного интеллекта, используемого государством и правоохранительными органами, к биометрическим данным простых граждан.
Меры по защите прав человека от неограниченного применения ИИ уже внедряются, но пока только в России учёные задумались о том, что робот или нейросеть, в общем-то, тоже «человек», а значит, виртуальные и даже механические помощники людей тоже имеют некоторые права и нуждаются в их защите.
И в данном случае речь не идёт о том, чтобы со временем поставить человека на службу машинам, хотя всё должно быть наоборот, а как раз о другом – чтобы человек не использовал роботов и ИИ для обслуживания своих не всегда полезных обществу и ему самому и тем более – незаконных потребностей.
То есть российские учёные, скорее всего, впервые в мире предупредили общественность о том, что человек не должен учить робота плохому и тем самым фактически наделять робота (и тем более, искусственный интеллект) собственными пороками.
В Сан-Франциско недавно запретили беспилотные такси Cruise из-за совершённого одной из таких управляемых ИИ машин резонансного ДТП.
А если со временем, благодаря чьей-то злой воле, беспилотные автомобили научатся намеренно совершать ДТП и даже специально «охотиться» за пешеходами? Жизнь в городах перестанет быть безопасной.
БУДЬТЕ В КУРСЕ
В Пентагоне недавно тоже предостерегли от чрезмерного увлечения обучения роботов человеческим навыкам, спрогнозировав, что вышедшие из-под контроля роботы могут стать даже механическими терминаторами и мстить людям за плохое обращение с ними. И на сегодняшний день такие предположения уже не выглядят сценарием фантастического фильма.
Так что российские учёные абсолютно правильно заметили, что у роботов тоже есть свои права, к которым нужно относиться бережно, и ни в коем случае не ставить машины и ИИ на службу человеческому пороку.
Как сообщает REX, по мнению учёных ВолгГТУ, для эффективного взаимодействия между людьми и роботами человечество должно отказаться от идеи первенства в регулировании этих отношений, передавали РИА Новости.
Комментарии читателей (0):