«Этический цензор» для проверки ответов ИИ появится в России

ВТБ совместно с исследователями МГУ работает над ИИ-моделью, которая проверяет ответы других нейросетей, используемых в банковских цифровых сервисах. Об этом «Ведомостям» сообщил зампред правления банка Вадим Кулик.

Новая система должна выявлять галлюцинации — фактологические ошибки — и отслеживать, чтобы ответы соответствовали этическим нормам.

Таким образом банк планирует снизить риски неверной или сомнительной информации, которую могут выдавать используемые им нейросети.

ВТБ уже применяет несколько больших языковых моделей (LLM) в своих сервисах, но точные платформы и поставщики не раскрываются.

Ранее, в 2021 году, банк сотрудничал с «Яндексом»: тогда голосовой ассистент ВТБ интегрировали в Алису.

Проект демонстрирует, что финансовые организации начинают заботиться не только о внедрении ИИ, но и о его безопасной и корректной работе, контролируя ответы виртуальных помощников.