В СФ поддержали тестирование нейросетей на соответствие духовным ценностям

В России подготовили концепцию набора тестовых заданий и эталонных данных для тестирования ИИ-систем на предмет их соответствия духовно-нравственным ценностям, сообщила газета «Коммерсантъ».  В беседе с «СенатИнформ» член Комитета СФ по науке, образованию и культуре, профессор Игорь Мурог поддержал необходимость такой проверки.

Концепция тестирования (датасета), разработанная «Яндексом», - это стандартизированный набор контрольных заданий с ответами, позволяющий сравнивать качество разных моделей ИИ по единым критериям. ФСБ настаивает на закрытом формате таких тестов, чтобы разработчики не могли подстроить модели под вопросы. Но представители бизнеса считают, что закрытый формат может быть слишком сложным и не позволит быстро развивать нейросети. Они настаивают на том, чтобы датасет был публичным.

Сенатор Игорь Мурог уверен, что такое тестирование нейросетей необходимо. Он напомнил слова Президента РФ Владимира Путина о том, что опорой в этой сфере должна служить прежде всего традиционная культура - самый естественный этический регулятор технологического прогресса. Глава государства подчеркивал, что основой безопасного развития современных технологий должны быть традиционные ценности. Только опираясь на нашу культуру, историю, языковое богатство, традиции, возможно создать суверенные модели искусственного интеллекта, а не копировать чужие решения.

Уверен, что традиционные ценности должны лечь в основу политики тестирования ИИ. Алгоритмы необходимо пропускать через тысячи этически окрашенных сценариев, чтобы зафиксировать их реакцию на попытки манипуляции базовыми смыслами российского общества

Игорь Мурог, член Комитета СФ по науке, образованию и культуре

Парламентарий отметил, что технологическое развитие не может идти в отрыве от культурного кода нации. И практическим воплощением этой стратегии должно стать создание независимых испытательных лабораторий под эгидой Минцифры, ФСБ и Федеральная служба по техническому и экспортному контролю (ФСТЭК), с участием Минпросвещения, Минобрнауки, Минкультуры, где соответствие нейросетей духовным установкам страны будет подтверждаться через единые выверенные мерила и глубоко проработанные сценарии испытаний.

Ранее «СенатИнформ» сообщил, что большинство российских компаний (73%) уже используют искусственный интеллект для создания контента, а ещё 12% планируют внедрить его в течение года. При этом 9% попробовали применять ИИ и отказались от этого, и лишь 6% пока вообще не собираются его внедрять. 

Напомним, что недавно был принят правительственный закон о поддержке технологий ИИ. Документ направлен на создание правовой основы для разработки, внедрения и использования в России больших фундаментальных моделей искусственного интеллекта и впервые закрепил основные понятия в этой сфере.

Председатель Совета Федерации Валентина Матвиенко говорила, что развитие ИИ неизбежно, но насильственно его внедрить нельзя, и нужна мотивация для того, чтобы ИИ получил широкое развитие, а появляется она только тогда, когда есть отдача от применения этих технологий.