«Яндекс» ищет хакеров, чтобы проверить безопасность нейросетей

Компания «Яндекс» расширила программу «Охоты за ошибками», добавив новое направление, связанное с генеративными нейросетями. Исследователи, которые смогут выявить технические уязвимости в моделях YandexGPT, YandexART и связанной инфраструктуре, могут получить вознаграждение до 1 миллиона рублей.

Участникам программы предстоит искать ошибки, которые могут повлиять на работу нейросетевых моделей, включая сбои или изменения поведения, что может затронуть другие сервисы «Яндекса». В рамках программы участвуют такие продукты, как «Алиса», «Поиск с Нейро», «Шедеврум» и другие облачные службы, использующие эти модели.

Размер выплаты зависит от тяжести уязвимости и её способности повлиять на работу системы. К критичным уязвимостям относятся те, которые позволяют раскрывать внутренние данные моделей или служебные промты.

Максимальное вознаграждение за такие ошибки — 1 млн рублей.

Программа «Охоты за ошибками» была запущена «Яндексом» в 2012 году и стала первой в России. Она теперь работает постоянно, и принять участие может любой желающий.