Эксперт Голицын: компании не могут контролировать передачу данных в ИИ-системы

За 2025 год количество конфиденциальной информации, которую сотрудники компаний в России передают публичным ИИ-системам, увеличилось более чем в 30 раз. В запросы попадают договоры, финансовые отчеты организаций, персональные данные клиентов и другая подобная информация. Об этом в разговоре с газетой "Известия" предупредил руководитель направления Т1 ИИ Сергей Голицын. По словам специалиста, основной проблемой является отсутствие контроля над передачей данных в ИИ-системы. "При этом у 60% организаций нет четкой политики по использованию ИИ‑инструментов и больших языковых моделей (LLM). Особую опасность представляют сценарии, когда разработчики используют публичные LLM‑интерфейсы для работы с кодом: во внешние сервисы могут утечь фрагменты внутренней логики и чувствительная бизнес‑информация", — объяснил он. Эксперт подчеркнул, что в программном обеспечении, которое создано только с помощью ИИ, содержится в 15 раз больше уязвимостей, чем написанном человеком. Одними из самых распространенных проблем являются отсутствие фильтрации ввода и некорректная авторизация. Также угроза может быть связана с агентными системами. При компрометации подобные системы предоставляют злоумышленникам доступ ко всему ИТ‑контуру компании. Для того чтобы решить эту проблему, следует развертывать ИИ‑инструменты только внутри собственного ИТ‑периметра, а также пользоваться исключительно проверенными библиотеками данных. До этого и. о. ректора Казанского государственного медицинского университета (КГМУ) Айрат Фаррахов сообщил, что в Татарстане планируют создать ИИ-помощника для врачей в первичном звене. После внедрения приложение будут продавать в другие регионы страны ради масштабирования и доходов в бюджет республики.