В СФ призвали создать в компаниях перечень разрешённых ИИ-инструментов

Искусственный интеллект - полезный рабочий инструмент, но его внедрение должно идти вместе с культурой безопасного использования. В компаниях должен быть перечень разрешённых ИИ-инструментов, нужно запрещать сотрудникам загружать чувствительные данные во внешние сервисы и предусмотреть ответственность за нарушение правил. Об этом замглавы Совета по развитию цифровой экономики при СФ, первый зампред Комитета верхней палаты по конституционному законодательству и госстроительству Артём Шейкин сказал в беседе с «СенатИнформ».

Опрос компаний «Солар» и УЦСБ показал, что 42,4% из 102 опрошенных предприятий подозревают утечки своих данных через ИИ-инструменты, при это реально столкнулись с этим пока только 8,1%. Но половина опрошенных даже не подозревает, что такие утечки возможны у них. В более раннем исследовании говорилось, что за 2025 год из-за работы персонала с ИИ из компаний утекло в 30 раз больше данных, чем годом ранее. По данным аналитиков, 63,6% опрошенных признались в нехватке обучения сотрудников и разработки внутренних политик ИИ-безопасности, пишет ТАСС.

«Главная причина утечек через ИИ-сервисы, как показывает практика, связана с тем, что компании часто начинают пользоваться нейросетями быстрее, чем успевают выстроить правила их безопасного применения», - сказал сенатор Шейкин в разговоре с нашим изданием.

Он считает, что сотрудники видят в ИИ удобный инструмент, куда можно загрузить любой документ, который поможет сократить договор, проанализировать таблицу, подготовить письмо. Но при этом они не всегда понимают, что вместе с запросом во внешний сервис могут уйти коммерческая тайна, персональные данные, внутренние документы, клиентская база или фрагменты программного кода.

Особенно опасен так называемый «теневой ИИ», когда сотрудники используют сторонние нейросети без согласования с работодателем и без понимания, где будут храниться данные, кто получит к ним доступ и могут ли они использоваться для дообучения модели. Для бизнеса это фактически новый канал утечки, который сложнее контролировать, чем обычную почту или мессенджеры

Артём Шейкин, первый зампред Комитета СФ по конституционному законодательству и госстроительству

Такие инциденты, считает сенатор, напрямую связаны с отсутствием внутренних политик ИИ-безопасности и недостаточным обучением сотрудников. «Если в компании нет понятных правил, какие данные можно передавать в ИИ-сервисы, а какие - нельзя, какие инструменты разрешены, а какие - запрещены, сотрудники начинают действовать по собственному усмотрению. И чаще всего не из злого умысла, а из желания быстрее выполнить рабочую задачу», - сказал парламентарий.

Поэтому, уверен он, компаниям нужны не только технические ограничения, но и чёткая управленческая рамка: перечень разрешённых ИИ-инструментов, запрет на загрузку чувствительных данных во внешние сервисы, обезличивание информации, контроль запросов и ответственность за нарушение правил. «Особенно это важно для финансового сектора, промышленности, медицины, ИТ-компаний и организаций, которые работают с большим объёмом персональных данных», - считает Шейкин.

Председатель Совета Федерации Валентина Матвиенко говорила, что верхняя палата работает над совершенствованием законодательства в области ИИ.

По её словам, искусственный интеллект способствует быстрому развитию в самых разных сферах, но одновременно есть опасения по поводу его негативного влияния.