Google заплатит $20 000 за взлом ИИ Gemini

Google расширила программу вознаграждений за ошибки и уязвимости, добавив в фокус генеративный ИИ и свои флагманские продукты.

Компания готова платить до $20 000 за случаи, когда исследователи добиваются реального злоупотребления искусственным интеллектом — не просто «галлюцинации», а выполнение нежелательных действий или раскрытие защищённых данных.

Векторы, которые Google считает критическими, включают «rogue actions» — сценарии, где модель выполняет команды, меняет данные аккаунта или помогает провести фишинг и другие атаки. За особо оригинальные и качественные отчёты сумма растёт: с учётом множителей награда может достигнуть $30 000.

Компания подчёркивает: простая демонстрация того, что модель «галлюцинирует», не даст высокого вознаграждения. Жалобы на неподходящий контент следует отправлять через стандартный канал обратной связи внутри продукта — туда, где решают проблемы с качеством ответов, а не уязвимостями.

Новая инициатива объединяет существующие баг-баунти и добавляет инструменты для работы с безопасностью ИИ. Одновременно Google представила набор мер и инструментов для быстрого исправления найденных проблем, включая внутренние разработки по автоматизации патчей.

Специалисты по безопасности уже находят реальные уязвимости в экосистеме Gemini — недавние кейсы показали способы внедрять вредоносные подсказки через журналы, результаты поиска и другие интерфейсы, что требовало быстрых фиксов со стороны Google. Это и объясняет высокий размер вознаграждения: компания хочет стимулировать качественные находки, а не «звуковые» демонстрации.

Если удастся системно объяснить и устранить сценарии, где ИИ выполняет нежелательные операции, это снизит риск кражи данных, фишинга и автоматизированных атак через сервисы Google. Для исследователей это шанс получить серьёзную оплату за реальные находки.