Греф рассказал в СФ о глобальных вызовах и возможностях России в эпоху ИИ

Президент, председатель правления ПАО «Сбербанк России» Герман Греф на 617-м пленарном заседании Совета Федерации рассказал сенаторам, что такое агентный искусственный интеллект, почему галлюцинирует генеративный ИИ, чем грозит появление квантового компьютеринга и как надо перестроить систему российского образования, которая «абсолютно не готова к массовому приходу искусственного интеллекта».

Герман Греф: Свое выступление построю, исходя из двух частей. Первая – это несколько слов о том, как сегодня развивается искусственный интеллект, потому что год назад перед вами я стоял на этой трибуне и рассказывал о том, что происходило в этой сфере ранее, и хотелось бы очень коротко описать те изменения, которые произошли за год. И второе – что происходит среди стран, которые участвуют в гонке за лидерство, и каковы сегодня позиции этих стран.

Видны, собственно, пять ключевых этапов развития технологий искусственного интеллекта. Начинался искусственный интеллект как специализированный искусственный интеллект. Собственно, его активное практическое применение началось, наверное, в 2010-е годы, и в первую очередь, чему обучали машину? Первое – это машинное зрение и соответствующие диффузионные модели, которые позволяли различать картинки – кошечек, собачек и так далее. И второе применение – это, конечно, перевод текстов. И перевод текстов с языка на язык, собственно говоря, позволил продвинуть модели на основе больших языковых моделей на невиданный до этого времени уровень.

Следующий этап развития – это появление так называемого генеративного искусственного интеллекта, который не просто может выполнять задачки, которые являются узкоспециализированными, элементарными, скажем так, а может генерировать контент, который до этого не существовал. И он уже является таким универсальным, позволяющим решать все виды задач, и мультимодальным, воспринимающим все способы восприятия информации, доступные человеку (это звук, это видео, это распознавание картинок, это текст, это код). В общем, все то, что доступно человеку, доступно искусственному интеллекту.

На сегодняшний день мы находимся на стадии третьего этапа развития искусственного интеллекта, когда, собственно говоря, генеративный искусственный интеллект из моделей, которые в первую очередь превращались в очень умные вопросно-ответные системы, превращается в системы, которые позволяют доводить исполнение задач до реализации, и появилось понятие так называемого агентного искусственного интеллекта. Я об этом несколько более подробно расскажу.

Четвертый уровень задач – это переход искусственного интеллекта в физический мир. Собственно говоря, раньше все человекоподобные роботы и прочие типы роботов представляли собой, как говорят специалисты, консервные банки, управляемые человеком, либо запрограммированные человеком: человек писал жесткий код, что машина должна сделать, в какой последовательности, и машина очень четко это исполняла.

Появление генеративного искусственного интеллекта позволило перейти в новую эпоху развития искусственного интеллекта, когда он перешел в физический мир и стал принципиально по-новому обучаться.

Есть модели, которые обучаются в облаке, но в этом случае они зависят от доступности и качества каналов связи с облаком.

На сегодняшний день считается самым главным подходом перенос всех способностей искусственного интеллекта на конечное устройство и обработка информации непосредственно на самих роботах. И вот этот так называемый Physical AI (физический искусственный интеллект) приобретает самые разнообразные формы: это самоуправляемые машины всех видов, это летающие дроны. Вот буквально на прошлой неделе впервые был испытан полностью управляемый агентным искусственным интеллектом, мультиагентной системой, военный истребитель США, который победил человека во всех видах испытаний. И эти машины принципиально по-другому обучаются. Они уже не носят алгоритмический характер, они уже начинают достигать поставленной человеком цели через различные способы, которые генерируются вот этими самыми агентными системами.

Ну и, собственно говоря, пятый уровень развития искусственного интеллекта – это так называемый AGI, или Artificial General Intelligence. Это искусственный интеллект общего назначения, когда совокупность всех способностей человека будет превышена вот этой самой системой искусственного интеллекта AGI, когда он сможет решать абсолютно любую задачу быстрее, лучше и качественнее самых высокоуровневых экспертов в любых сферах человеческой деятельности.

Мы видим, что мы с вами все являемся пользователями специализированного искусственного интеллекта. Мы каждый день, собственно говоря, являемся пользователями тех или иных приложений на работе, в быту. И, собственно говоря, сегодня без искусственного интеллекта, без узкоспециализированного искусственного интеллекта, нам с вами, наверное, уже представить нашу жизнь невозможно.

Генеративный искусственный интеллект обладает главным свойством – он может анализировать. Он понимает всю входящую информацию, может анализировать ее и выдавать эту информацию. Собственно говоря, когда появились первые системы генеративного ИИ, стало понятно, что такая функция человека, как экспертиза, консалтинг, перестала быть монополией, в том числе крупных компаний.

Искусственный интеллект стал в считанные минуты делать заключения не менее глубокие, чем самые квалифицированные эксперты. И он начал решать достаточно сложные задачи, так называемые бенчи или наборы задач, по которым определяют качество модели искусственного интеллекта. Они с каждым кварталом, с каждым месяцем становятся сложнее и сложнее. И по мере того, как искусственный интеллект стал приобретать экспертное значение, он стал использоваться во всех областях без исключения. Это касается всех отраслей экономики, науки, медицины, образования. Нет ни одной сферы человеческой деятельности, где бы сегодня искусственный интеллект не являлся доминирующей технологией, определяющей будущее развитие той или иной сферы человеческой деятельности.

Приведу только одну сферу. В 2025 году 80% всех научных открытий было сделано с помощью искусственного интеллекта. Наши учёные посчитали, сколько публикаций в топовых мировых научных журналах сегодня публикуется. Таких статей примерно 35 тысяч. И если продолжить исследования до 2030 года, то, по оценкам наших ребят, будет примерно публиковаться 120–130 тысяч статей, генерируемых человеком. Если мы говорим о соответствующем темпе развития генеративного искусственного интеллекта и аппроксимации его на 2030 год, на научную сферу, таких статей будет примерно 5 миллионов. Соответственно, встает вопрос: кто в состоянии прочесть такое количество научных статей? Очевидно, что это будет недоступно человеку даже в какой-то узкоспециализированной области науки.

Прочесть это сможет только искусственный интеллект, поэтому с каждым годом наша зависимость от использования искусственного интеллекта будет только расти. И эффективность любого специалиста, любого ученого будет зависеть от того, насколько он эффективно научится взаимодействовать с теми или иными системами искусственного интеллекта.

Надо сказать, что, конечно же, до сих пор пока не решена проблема генеративного искусственного интеллекта. Все, что является его преимуществом, является его же недостатком, потому что если вы два раза зададите ему один и тот же вопрос, он не берет из базы предыдущий ответ, он каждый раз генерирует ответ по-новому. Соответственно, если вы два раза просите его нарисовать одну и ту же картинку, он ее каждый раз рисует заново. И это является, собственно говоря, самой большой проблемой, пока еще не решенной до конца в искусственном интеллекте, потому что он очень часто галлюцинирует. Сейчас уже не так часто, как раньше, но, тем не менее, эти артефакты еще остаются. Пока преодолеть эту проблему полностью не удалось.

Поэтому он может искажать реальную действительность, придумывать факты несуществующие, для того чтобы продолжить логику своего собственного рассуждения. И в России уже есть первый пример, когда суд оштрафовал адвоката за то, что он в мотивационной части своего искового заявления сослался на целый набор решений Верховного Суда Российской Федерации, которых на самом деле, на практике не существует. И суд оштрафовал адвоката за неуважение к суду. На мой взгляд, это было сделано абсолютно справедливо. Адвокат сказал, что он использовал при этом нейросеть, которая ему выдала вот всю эту информацию, и он ее просто вставил в исковое заявление. На что судьей было сказано, что роль адвоката состоит в том, чтобы проверять любые факты, в том числе факты, которые предложены машиной.

Ну и последнее, что, собственно говоря, появилось в полноценном генеративном искусственном интеллекте в прошлом году, чего не хватало генеративному искусственному интеллекту, — это, конечно, исполнение. Исполнение того, что поставлено перед искусственным интеллектом в качестве задачи.

Появились так называемые агенты искусственного интеллекта. Что такое агентная система? Это большая лингвистическая модель плюс окружение, плюс либо заранее созданные навыки для решения тех или иных проблем, либо те навыки, которые создаются искусственным интеллектом по ходу исполнения той или иной задачки. И вот эти навыки или агенты могут управлять другими системами. То есть если раньше большая лингвистическая модель была советником, сегодня агентная система становится полноценным исполнителем. Она может управлять компьютером, она может управлять машиной, она может привлекать для исполнения задачи, которая перед ней стоит, даже человека. И уже есть первый случай, физический мир еще пока не настолько развит, роботы пока еще у нас отсутствуют на рынке, когда искусственный интеллект сам вышел на рынок труда и нанял человека, для того чтобы осуществить доставку того продукта, который другой человек попросил у него доставить в соответствующее место. И это он сделал без задачи, которую ему поставил человек. Он сам решил, что самый удобный способ – это выйти на биржу, нанять соответствующего человека и реализовать ту задачу, которую поставил перед ним другой человек.

Соответственно, возникает вопрос, огромный пласт вопросов, связанных с так называемой агентной экономикой. Таким образом, у каждого из нас будет свой агент или своя мультиагентная система. А сейчас появился еще один класс агентов, так называемые автономные агенты, которые выполняют задачу 24 часа в сутки. Если вы этому агенту дали допуск к своей личной информации, к своему календарю, к своей переписке, если ответили на все его вопросы, если он видит ваш профиль, если он понимает ваши задачи, и вы доверили ему выполнение той или иной работы без вашей проверки или с вашим одобрением, то он работает 24 часа в сутки.

Он может отвечать на почту, он может решать различные задачи, может готовить для вас ответы, он может разрабатывать, анализировать документы, разрабатывать планы действий в различных сферах и так далее.

Первый автономный агент такой появился на рынке в начале этого года, и он сразу же взорвал рынок. Собственно говоря, этот агент весь был написан одним человеком, который использовал для этого систему искусственного интеллекта тоже, для написания кода. Он не написал ни одной строчки кода сам. Он делал промпты, то есть запросы к системе искусственного интеллекта, с заданием написать соответствующий код.

У нас тоже такой агент появился в феврале.

И, собственно говоря, физический искусственный интеллект. Здесь видно, что физическое воплощение искусственного интеллекта, собственно говоря, само железо – это не такая сложная инженерная задача. А вот соединение его с искусственным интеллектом – это, конечно, очень сложная задача, и на сегодняшний день эта задача до конца не решена.

Появились так называемые VLA-модели (vision – listen – act), то есть модель, которая видит, которая слышит и которая в зависимости от этого может действовать.

Очень много сложностей возникает еще и с обучением этих моделей. Понятно, что эти модели пока обучаются на конечных устройствах. Всегда объем процессора, который ты можешь на конечное устройство поместить, ограничен объемом того робота или той самоуправляемой машины, которая у тебя есть в распоряжении. Если мы говорим об автомобилях, то там можно в багажник поставить достаточно большой процессор. Если мы говорим о человекоподобном роботе, то мы ограничены, конечно, форм-фактором самим. И сейчас идет борьба двунаправленная такая: с одной стороны, за повышение вычислительной мощности вот этих on the edge-устройств – устройств, которые находятся на конечном роботе, и за уменьшение модели, которая позволяет выполнять достаточно универсальные задачи, – с другой. Ну и третья модель – это повышение эффективности обучения.

Здесь мы тоже находимся на неплохом месте. Наша модель Green-VLA (у нас семейство роботов называется Green – "зеленые") заняла первое место на одном из самых больших соревновательных конкурсов, который проводился в Китае.

Одна из самых распространенных моделей обучения робота – это наблюдение за тем, что делает человек, и повторение движений. Собственно говоря, наш робот, который здесь танцевал, тоже обучался таким образом. Мы нанимали профессиональных танцоров, снимали камерой их движения, а потом на этих движениях робот обучался.

Здесь видно, как робот повторяет все движения одного из самых известных футболистов. За этим иногда очень забавно наблюдать.

Видно, что за последний год произошел гигантский скачок в развитии искусственного интеллекта. Если говорить о самых сложных математических задачах, вообще задачах, которые не были решены человечеством за всю историю его существования, то с каждым годом машина с этим начинает справляться все более и более эффективно. Если вы посмотрите на этот график, вы увидите, какой скачок произошел за последний год.

Самые удобные отрасли для работы машины – там, где заложена какая-то логика, где есть формализованный язык. Поэтому программирование – это одна из первых сфер, где агентные системы искусственного интеллекта с помощью больших лингвистических моделей освоили этот навык на достаточно высоком уровне.

И здесь видно, что медицина, финансы, юриспруденция, математика – это те сферы, куда искусственный интеллект проник достаточно глубоко и справляется с задачами сегодня уже во многом лучше, чем люди.

Ну и искусственный интеллект, конечно, стал использоваться в очень чувствительных сферах. Последняя модель Mythos (я думаю, что вы слышали об этом) была установлена к распространению и компанией Anthropic, и правительством Соединенных Штатов, потому что она с помощью своих агентов может взламывать достаточно серьёзные системы искусственного интеллекта. И она нашла более 1,5 миллиона уязвимостей в традиционных операционных системах самых развитых компаний в мире, таких как Apple, Google, Android и так далее. Ну и, собственно говоря, по утверждениям средств массовой информации, была взломана система Агентства национальной безопасности США с помощью модели Mythos. И в этом смысле, конечно, использование искусственного интеллекта в зависимости от намерений человека может приносить как позитивные результаты, так и негативные, увы.

Какой набор вопросов возникает сейчас при возникновении фактически нового уклада экономики, или так называемой агентной экономики? Наши с вами агенты будут сотрудничать друг с другом и с агентами организаций. Бизнес-модели огромного количества корпораций подлежат умиранию. Уходит с рынка очень важная составляющая – это экспертные барьеры и асимметрия информации. Ваш агент в считанные минуты может проанализировать лучшие предложения на рынке и выйти на очень малоизвестного поставщика товара или услуги, и заказать у него услугу.

Для того, чтобы все это могло делаться в режиме онлайн, конечно, должны быть очень высокие требования к тому, чтобы все компании в стране находились в продвинутом цифровом платформенном состоянии (это первое), чтобы у них были соответствующие API (это программные интерфейсы), доступные для работы агентов, и чтобы при этом их товары и услуги были доступны к реализации.

Соответственно, очень важен еще один элемент во всей этой цепочке – это протоколы взаимодействия. Они все должны разговаривать на одном языке. И это то, над чем сейчас работает мир, над чем работаем мы, с тем чтобы обеспечить вот это самое взаимодействие на понятном языке, на понятных протоколах. И все мультиагентные системы искусственного интеллекта должны иметь доступ ко всем API компаний с тем, чтобы они могли осуществить "конечную милю" или конечный способ доставки товара или услуги до человека.

Здесь возникает огромное количество вопросов. Соответственно, среда, в которой это все происходит, тоже должна быть доверенной, потому что там происходит транзакция, не только денежная транзакция, но и подписание соответствующих смарт-контрактов, умных контрактов. Скорее всего, среда, в которой это будет происходить, будет реализована в блокчейне. И здесь крайне важно, что сейчас принимается закон о расширении использования цифровых валют и блокчейна для экономических операций. И вся инфраструктура для этого должна быть подготовлена.

Здесь, конечно же, возникает большое количество юридических вопросов, связанных с тем, что не вы сами являетесь участником этого юридического действия, а ваш агент. Соответственно, у агента должны быть соответствующие полномочия. Эти полномочия должны быть проверены, потому что в случае заключения сделки и оплаты человек вдруг может предъявить какие-то претензии к тому, что сделка осуществлена без его надлежащего волеизъявления. В общем, здесь большое количество юридических вопросов возникает.

Мы имеем сейчас еще одного виртуального субъекта экономики. До этого у нас был человек – физическое лицо с соответствующим набором прав и обязанностей и юридическое лицо – юридическая фикция, которая позволяла этой конструкции участвовать в обороте. Вот сейчас появляется еще одно лицо – агент, который будет участвовать в хозяйственном обороте.

Я уже сказал, что все сферы подлежат серьезному, очень серьезному изменению. При нашей жизни в ближайшие пять лет мы эти изменения, радикальные изменения, будем видеть, конечно.

Ну и, на наш взгляд, одна из самых главных задач, которая должна быть государством решена, – это изменение системы образования. Потому что сегодняшняя наша систем образования абсолютно не готова к массовому приходу искусственного интеллекта. Она должна быть изменена.

И, второе. Конечно, одна из самых важных отраслей, которая уже подвергается колоссальному изменению, – это отрасль здравоохранения. Я думаю, что мы увидим очень сильное влияние искусственного интеллекта на показатель продолжительности здоровой жизни человека.

Ну, здесь виден маленький пример, когда искусственный интеллект сам создает приложение без участия человека. Год назад это было, наверное, еще экзотикой, а сегодня это уже, в общем, данность. Скорость, с которой все эти задачки решаются, просто поражает. Даже мы, являющиеся разработчиками искусственного интеллекта, честно сказать, не успеваем к этому адаптироваться. И если в эпоху Agile и разработки внутри технологических команд собственных приложений, действовало такое правило – two pizza team, то есть размер команды должен быть таким, чтобы ее можно было накормить двумя пиццами, это примерно 10–12 человек, то сегодня вся команда – это один человек и искусственный интеллект.

Соответственно, мы впервые видим, что в мире происходит сокращение инженеров, разрабатывающих те или иные решения. Такого не было никогда, всегда это был самый дефицитный ресурс. Ну и мы в "Сбере" в прошлом году сократили 20% инженеров. Это впервые за все время нашего существования.

Вот такая маленькая история. Допустим, нашу мультиагентную систему, наш GigaAgent, мы соединили с нашими внутренними IT-системами и HR-системами. И я теперь прошу ее подобрать мне наилучшего кандидата на ту или иную роль. И в течение пяти минут он анализирует всю базу данных из 300 человек, которые работают в "Сбере", и выдает мне соответствующие мотивации, кто те лучшие кандидаты, которые бы подошли на ту или иную роль.

И вот здесь мы сегодня показывали использование искусственного интеллекта для футбола. Сейчас уже у нас много партнеров в разных отраслях спорта: это и художественная гимнастика, и даже бег. ИИ очень сильно помогает тренерам решать те или иные задачи.

Сейчас происходит обучение. По поручению Президента РФ мы совместно с администрацией президента и правительством организовали цикл обучения современным мультиагентным системам заместителей губернаторов, отвечающих за цифровую трансформацию, которым будет поручена ИИ-трансформация. И прошел второй цикл обучения. Первый был в Москве, второй мы провели в Татарстане и, как нам кажется, достаточно успешно. Сложно, может быть, людям адаптироваться, потому что мы требуем от них выполнения соответствующих задач. Обучение там проходило на базе “Школы 21”, но, тем не менее, ребята справляются с этим.

Очень много уже конкретных примеров, где и как может быть искусственный интеллект максимально полезен.

Что происходит на уровне геополитики? Мы видим, что все развитые страны поставили развитие искусственного интеллекта в число своих главных приоритетов. Вложения в инфраструктуру сегодня превышают в два раза весь CAPEX, который тратится на развитие традиционной и самой ресурсоемкой отрасли – нефтегазовой отрасли. Если взять следующие пять лет, то эта цифра будет выше в два раза. Если в Соединенных Штатах Америки убрать инвестиции в искусственный интеллект из всех инвестиций в ВВП, то их динамика будет отрицательной. Собственно говоря, весь прирост инвестиций сегодня происходит за счет AI.

Ну и здесь, конечно, в этой самой конкурентоспособности одним из очень важных факторов является наличие соответствующих мощностей для разработки искусственного интеллекта. Здесь вы видите, что такое 100 тысяч процессоров B200 от NVIDIA, строительство собственного ЦОДа – это 100 тысяч, это минимальный, скажем, кластер для развития современной модели. Для сравнения: у таких компаний, как Google, их более 2 миллионов, у Microsoft – 1 миллион. Вот 100 тысяч кластеров… Строительство собственного ЦОДа обходится примерно в 1,2 триллиона, а аренда на три года – более чем в 2 триллиона рублей.

США являются лидером по выручке. И, хотя искусственный интеллект ни у одной компании в мире пока не является окупаемым среди тех компаний, которые разрабатывают фундаментальные модели, но китайские модели их активно догоняют. Вышла модель Kimi, которая стала второй-третьей в мире. И Китай, конечно, помогает таким маленьким компаниям, он инвестирует огромные деньги в поддержку этих компаний, предоставляя им кластеры для обучения моделей.

Если говорить о трафике, чем отличаются модели американские и модели китайские? Все американские модели, кроме одной (сейчас они первую модель опубликовали), являются закрытыми, или проприетарными, моделями. Ты можешь работать только в американском облаке. Китайцы пошли другим путем: они практически все свои модели открывают, и они побеждают в мировом трафике. 78% всего трафика на одном из важнейших ресурсов OpenRouter составляет трафик бесплатных китайских моделей. Это доставляет для нас огромную головную боль. Мы вынуждены наши модели тоже публиковать и делать открытыми. Мы вкладываем в их обучение гигантские деньги и потом бесплатно предоставляем на рынок. Но другого пути пока нет.

Но на сегодняшний день даже китайские модели становятся все более и более закрытыми. Одна из самых популярных моделей – Qwen. Три последние ее публикации уже не являются открытыми. Поэтому это показатель того, насколько важно иметь суверенный технологический стек и разрабатывать свои модели.

Если говорить о том, где мы находимся… По нашим оценкам, разница между китайскими и американскими моделями – примерно полгода, между нами и китайскими моделями – еще полгода. То есть мы примерно на год отстаем от американцев, на полгода отстаем от китайцев. И здесь проблема заключается только в одном – не в качестве наших инженерных кадров, а в объеме того ресурса для обучения модели эксперимента, которую мы имеем.

Здесь мы показываем, что у нас вся линейка, благодаря тому, что мы много лет вкладываем в это, все модальности работы искусственного интеллекта и написания кода, видео и картинки, все у нас находится на достаточно высоком уровне.

Вот Kandinsky так генерирует изображение, фактически невозможно отличить его от реальности.

Ну и, естественно, все, что связано с анализом. Наши медицинские модели находятся на топовом уровне в части анализа изображения или постановки диагнозов.

Ну и последнее – цитата нашего Президента в отношении того, что нужно минимальные барьеры создавать, чтобы технология развивалась. Я знаю, что вы приняли закон о развитии искусственного интеллекта. Это был сложный компромисс, потому что, понятно, всегда есть дискуссия между двигателями и охранителями. И мы, очевидно, являемся двигателями, я бы сказал так, трезвыми двигателями, понимаем все риски искусственного интеллекта.

Но настолько сложно сегодня… Сегодня у нас в стране осталась полностью разрабатываемая российской компанией только одна фундаментальная модель – это "Сбер". Компания "Яндекс" сегодня дообучает Qwen, в основе ее лежит китайская модель. И, конечно, нас нисколько не радует, что мы одни, потому что мы за конкуренцию. На этом рынке конкуренция глобальная, но лучше было бы, если бы было у нас пять-шесть игроков, которые разрабатывают модели, чтобы была более жесткая конкуренция. Но это, как я уже сказал, очень сложная история и с точки зрения сложности самой задачи, и с точки зрения капиталоемкости.

У нас внутри создано два научных института, которые работают над различными проблемами алгоритмов, архитектурой и попыткой найти новый подход к GenAI, потому что никто не понимает, когда это произойдет. Сегодня у всех есть понимание того, что, скорее всего, это рубеж 2030-х годов, но в какой конфигурации? Будет в основе этого лежать LLM (большая языковая модель) или нет – это большой вопрос. Поэтому нужно много времени тратить на исследования, на эксперименты.

(расшифровано с помощью ИИ)