В СФ считают, что маркировать ИИ – контент можно цифровыми водяными знаками

Концепция обязательной маркировки контента, созданного с применением технологий искусственного интеллекта (ИИ), отвечает объективной потребности граждан в достоверной информации, сказал «СенатИнформ» член Комитета СФ по науке, образованию и культуре, профессор Игорь Мурог, комментируя соответствующую инициативу.

Согласно проекту поправок, подготовленному рабочей группой Совета при президенте РФ по кодификации и совершенствованию гражданского законодательства, маркировка изображений, аудио и видео, созданных с помощью больших моделей ИИ, может стать обязательной вместо добровольной. Как сообщила газета «Ведомости», 19 августа эту инициативу планирует рассмотреть рабочая группа по регулированию и административным барьерам, которую возглавляет статс-секретарь, замглавы Минцифры Иван Лебедев. В рамочном законе об ИИ,  одобренном на 617-м пленарном заседании Совета Федерации, не прописано обязательство маркировать указанные материалы.

По словам сенатора Игоря Мурога, в условиях, когда алгоритмы способны воспроизводить голоса, изображения и тексты с высокой степенью реалистичности, право человека понимать происхождение получаемого контента приобретает особое значение.

Отсутствие чёткого обозначения источника информации создаёт риски для общественного доверия и повышает уязвимость аудитории перед манипулятивными практиками

Игорь Мурог, член Комитета СФ по науке, образованию и культуре

Но важно уточнить, как определять долю участия ИИ в смешанном контенте, отметил парламентарий. Например, в случаях, когда нейросеть применяется лишь для технической обработки записи. Ещё один вопрос - как регулировать обращение файлов, поступающих из-за рубежа. «На мой взгляд, заслуживает рассмотрения подход, ориентированный прежде всего на формирование инфраструктуры доверия, - сказал сенатор. - Одним из возможных направлений могло бы стать закрепление обязанности разработчиков встраивать в генерируемый контент цифровые водяные знаки, а также предоставление социальным платформам разумных сроков для интеграции удобных инструментов информирования пользователей».

Ранее в СФ призывали сделать маркировку ИИ-контента технически простой. По словам сенатора Артёма Шейкина, сама идея идентификации абсолютно правильная: пользователь должен понимать, где перед ним реальная фотография, видео- или аудиозапись, а где материал, созданный или существенно изменённый нейросетью.

Председатель Совета Федерации Валентина Матвиенко отмечала, что искусственный интеллект способствует быстрому развитию в самых разных сферах, но одновременно есть опасения по поводу его негативного влияния. И оно уже активно проявляется, например, в виде дипфейков.  Спикер СФ подчёркивала, что верхняя палата активно работает над совершенствованием законодательства в области ИИ.