В СФ назвали риски массового доверия к рекомендациям ИИ

Бездумное массовое следование советам алгоритмов в вопросах здоровья, крупных покупок и личных финансов несёт в себе скрытые угрозы. Об этом сказал «СенатИнформ» член Комитета СФ по науке, образованию и культуре, профессор Игорь Мурог.

Уровень доверия к рекомендациям нейросетей среди их пользователей достиг 92%. Об этом говорится в исследовании сервиса «Анкетолог».

Чаще всего люди обращаются к нейросетям за помощью в рабочих вопросах, в том числе при подготовке к собеседованиям. Так поступают 16% опрошенных. Ещё 14% используют нейросети для написания текстов, а 13% задают вопросы о здоровье и самочувствии, пишет ТАСС.

Согласно опросу, 53% респондентов регулярно следуют советам, которые получают от нейросетей. Почти треть респондентов хотя бы раз приобретала товары или услуги по рекомендации ИИ, а 8% после консультации с нейросетью, наоборот, отказались от крупной покупки.

Сенатор Игорь Мурог объяснил высокий уровень доверия к рекомендациям нейросетей тем, что для большинства пользователей технологии уже перестали восприниматься как нечто непонятное и стали удобным цифровым помощником.

По его словам, нейросети дают быстрые и готовые ответы, помогают решать рабочие задачи и избавляют человека от необходимости долго искать информацию или самостоятельно принимать решение. Кроме того, современные алгоритмы умеют формулировать ответы в убедительной экспертной манере и приводить ссылки, что создаёт впечатление высокой компетентности.

Но в этом также и подвох. Нейросетями ещё нужно уметь пользоваться. Среди главных угроз — постепенная атрофия критического мышления и навыка самостоятельной проверки фактов, ведь машина всегда говорит уверенно и не ставит под сомнение собственные выводы

Игорь Мурог, член Комитета СФ по науке, образованию и культуре

Сенатор также обратил внимание на вопросы достоверности информации и безопасности персональных данных, которые пользователи передают нейросетям. Он считает, что задача законодателей заключается не в том, чтобы ограничивать развитие технологий, а в том, чтобы установить понятные правила ответственности за возможные ошибки ИИ.

«Искусственный интеллект должен оставаться лишь инструментом поддержки наших собственных решений, но никак не их единственным автором», — сказал Игорь Мурог.

Ранее парламентарий поддержал тестирование нейросетей на соответствие духовным ценностям. В России уже подготовили набора тестовых заданий для такой проверки. 

Спикер СФ Валентина Матвиенко сказала, что нужна мотивация для того, чтобы ИИ получил широкое развитие, а появляется она только тогда, когда есть отдача от применения этих технологий.