ПАРИЖ, 6 октября. /ТАСС/. Применение технологий и программ искусственного интеллекта (ИИ) в полицейской и судебной сферах грозит целым рядом опасностей. Об этом говорится в резолюции, одобренной в среду Европейским парламентом. Она была принята по докладу на данную тему, представленному болгарским депутатом Петаром Витановым.
"Как цифровые технологии в целом, так и обработка данных и аналитика, обеспечиваемые искусственным интеллектом, открывают прекрасные перспективы. Но в то же время они таят в себе чрезвычайные риски для основополагающих прав людей. <...> Использование приложений искусственного интеллекта должно быть отнесено к категории высокого риска в случаях, когда существует возможность значительно [негативно] повлиять на жизнь людей. В частности, любое широкое применение ИИ для целей массовой слежки следует считать непропорциональной мерой", - говорится в резолюции.
"Современное уголовное право основано на идее о том, что власти реагируют на преступление после его совершения. Оно не предполагает, что все люди опасны и нуждаются в постоянном контроле для предотвращения потенциальных правонарушений", - отмечено в документе. "Методы слежки на основе искусственного интеллекта серьезно бросают вызов этому подходу, и это требует, чтобы законодатели во всем мире тщательно оценили последствия внедрения технологий, которые уменьшают роль людей в правоохранительной деятельности и вынесении судебных решений", - говорится в резолюции.
Как современные программы ИИ в правоохранительной сфере, так и будущие "могут иметь весьма разную степень надежности и точности и, таким образом, в разной степени влиять на защиту основных прав и на динамику функционирования систем уголовного правосудия", считают в Европарламенте.
Вопрос об ответственности
"Императивом является создание четкой модели юридической ответственности за потенциально вредные последствия использования систем ИИ в области уголовного права, - подчеркивают в Европарламенте. - Установленные правила в этой сфере всегда должны обеспечивать ответственность и подотчетность человека и быть направлены в первую очередь на то, чтобы избежать возникновения каких-либо вредных последствий". В резолюции подчеркивается, что "в конечном счете именно государствам надлежит нести ответственность за обеспечение полного соблюдения основных прав" при использовании систем ИИ в правоохранительной и судебной сферах.
Европарламент считает обязательным проведение оценок воздействия таких программ на основные права человека до внедрения любой системы ИИ. Также должны быть обязательными и последующие проверки. "До сих пор не существует программ, которые могли бы соответствовать гибкости мышления человека в широких областях или в задачах, требующих [тонкого] понимания контекста или критического анализа", - констатируется в документе.
Европарламент подчеркивает, что "технологии ИИ следует разрабатывать таким образом, чтобы такие системы были достойными общественного доверия и всегда работали на благо человечества". "Они должны быть недискриминационными, безопасными, их решения должны быть объяснимыми и прозрачными. Они должны быть основаны на уважении самостоятельности человека и его основных прав", - указано в тексте. "Не может быть обеспечена безопасность, если при этом не обеспечены свободы человека", - подчеркнул в этой связи в ходе сессии, представляя доклад, его автор Петар Витанов.
Факторы риска
В Страсбурге указывают на "риски, связанные, в частности, с утечкой данных, нарушениями безопасности обращения с данными, несанкционированным доступом к персональным данным и другой информации". В резолюции подчеркивается, что "аспекты безопасности и защиты систем ИИ, используемых в правоохранительных органах и судебной системе, должны быть тщательно изучены и быть достаточно надежными и устойчивыми, чтобы предотвратить потенциально катастрофические последствия вредоносных кибератак".
В то же время ЕС отмечает, что программы ИИ "способны предоставлять большие возможности в области правоохранительной деятельности, в частности для совершенствования методов работы правоохранительных и судебных органов, а также обеспечения более эффективной борьбы с определенными видами преступлений (финансовыми преступлениями, отмыванием денег и финансированием терроризма, сексуальным насилием в интернете и эксплуатацией детей, а также некоторыми видами киберпреступности)".