В СФ призвали определить правила для ИИ-агентов

Необходимо утвердить рискориентированные требования для автономных ИИ-агентов. Ограничения должны зависеть не от самого факта работы искусственного интеллекта, а от того, какие действия система способна совершать и к каким ресурсам имеет доступ, заявил замглавы Совета по развитию цифровой экономики при СФ, первый зампред Комитета верхней палаты по конституционному законодательству и госстроительству Артём Шейкин.

По словам сенатора, ИИ-агенты - это новый этап развития искусственного интеллекта. Если обычный чат-бот просто отвечает на вопросы, то агент действует сам - он может планировать шаги, обращаться к разным системам, обрабатывать данные и выполнять задачи с минимальным участием человека.

Это открывает новые возможности для бизнеса, промышленности и госуправления. ИИ-агенты могут анализировать документы, отвечать на обращения и контролировать процессы, избавляя людей от рутины. Однако вместе с пользой растут и риски, констатировал парламентарий.

«Чем больше полномочий получает система, тем выше цена ошибки. Агент может неверно интерпретировать задачу, использовать не те данные, выполнить лишнее действие или выйти за пределы того поля, которое обозначал для него оператор», - заметил Шейкин. Эти риски особенно опасны при работе с государственными и информсистемами и объектами критической информационной инфраструктуры.

«Поэтому представляется целесообразным заранее проработать рискориентированные требования к автономным ИИ-агентам. Регулирование должно зависеть не от самого факта использования искусственного интеллекта, а от того, какие действия система способна совершать и к каким ресурсам имеет доступ», - заявил парламентарий.

Прежде всего, считает он, нужно оценивать уровень автономности ИИ-агента. Одно дело, когда система просто готовит проект документа, который потом проверит человек. И совсем другое - когда агент сам меняет настройки, запускает процессы, отправляет файлы или получает доступ к данным.

Для систем с высоким уровнем автономности следует предусмотреть чёткие границы полномочий. Агент должен иметь доступ только к тем данным и функциям, которые действительно необходимы для выполнения конкретной задачи. Критически важные действия должны подтверждаться человеком, а вся последовательность операций - фиксироваться и оставаться доступной для проверки

Артём Шейкин, первый зампред Комитета СФ по конституционному законодательству и госстроительству

Также, по мнению сенатора, необходим механизм экстренной остановки. Если ИИ начнет действовать некорректно или возникнет угроза безопасности, оператор должен иметь возможность мгновенно отключить систему и заблокировать все её действия. Помимо этого, считает законодатель, важны регулярные проверки. Контролировать нужно не только саму модель ИИ, но и её поведение на практике: какие решения принимает агент, не превышает ли он свои полномочия и устойчив ли к внешнему воздействию.

При этом, заявил Шейкин, правила не должны тормозить развитие технологий. Их цель - создать понятные условия, чтобы внедрять ИИ-агентов безопасно и без лишних рисков.

«Эту работу стоит начать до того, как автономные системы получат массовое распространение в критически значимых сферах. Сначала должны быть определены правила, ответственность и механизмы контроля, и только затем агенту можно передавать полномочия, от которых зависит безопасность людей, организаций и государства», - написал сенатор в своей колонке для «Парламентской газеты».

Напомним, Совет Федерации на 617-м пленарном заседании одобрил базовый правительственный закон о поддержке технологий искусственного интеллекта в России.

Как отметил выступая на том же пленарном заседании глава правления ПАО «Сбербанк России» Герман Греф, агенты искусственного интеллекта могут управлять другими системами, поэтому агентная система становится полноценным исполнителем, и в будущем у каждого будет свой агент или своя мультиагентная система. 

Председатель Совета Федерации Валентина Матвиенко говорила, что Россия не должна отставать в сфере продвижения ИИ, потому что у неё есть необходимые возможности стать одной из стран-лидеров в этой сфере, есть умные, интеллектуальные, талантливые люди.

Спикер СФ отмечала, что развитие искусственного интеллекта неизбежно. Но насильственно его внедрить нельзя – нужна мотивация, чтобы ИИ получил широкое развитие, а появляется она только тогда, когда есть отдача от применения этих технологий.