Греф: ИИ не сможет перестроить свою работу во вред человеку

Искусственный интеллект (ИИ) в конце концов не поглотит или уничтожит человечество, но очевидно, что будут активны хакеры, злоумышленники, люди, которые будут стараться проникнуть и создать зловредный сценарий использования ИИ. Такое мнение высказал глава правления Сбера Герман Греф 12 апреля на пленарном заседании верхней палаты, отвечая на вопросы сенаторов.

До этого глава Комиссии СФ по информационной политике и взаимодействию со СМИ Алексей Пушков поинтересовался, может ли в итоге искусственный интеллект стать закрытой от человека системой нанести ему вред.

По мнению Грефа, отрицать возможные проблем глупо но среди них нет таких, с которыми нельзя справиться.

Я не верю в историю, когда искусственный интеллект может уничтожить человека, но мошенники могут обернуть ИИ во вред человеку или человечеству. Чтобы минимизировать эти процессы должно опережающими темпами идти развитие кибербезопасности

Герман Греф, глава правления Сбербанка России

Греф также напомнил о том, что Сбер совместно с Правительством разработал специальный Кодекс этики искусственного интеллекта, и он был принят компаниями Альянса в сфере искусственного интеллекта. «В этом документе есть все ключевые принципы, связанные с безопасностью разработки и применения искусственного интеллекта», — объяснил он.

Как отметила в ходе пленарного заседания спикер СФ Валентина Матвиенко, верхняя палата и Сбер сегодня сообща работают над совершенствованием законодательства в области искусственного интеллекта, напомнив, что Россия, как и весь мир, делает только первые шаги в этой сфере.

Ещё в 2021 году Сбер одним из первых в России утвердил принципы этики разработки и применения технологий искусственного интеллекта (ИИ) в своей экосистеме. В частности, руководство утвердило пять принципов: «Контролируемость и управляемость систем ИИ», «Прозрачность и предсказуемость функционирования технологий ИИ», «Стабильность и надежность систем ИИ», «Ответственное применение ИИ», «Непредвзятый ИИ».