Эротический аватар Ani сделали на основе сотрудниц xAI: они этого не знали

На одной из встреч сотрудников xAI попросили записать видео с лицом и голосом. Оказалось, что материалы использовали для создания ИИ-аватаров.

Перед сбором биометрических данных сотрудников попросили подписать соглашение. В нём говорилось, что xAI получает бессрочную и бесплатную лицензию на использование их внешности по всему миру.

Сотрудникам объяснили, что данные нужны для развития технологий искусственного интеллекта. На деле, как выяснилось позже, компания собирала полную биометрию — лица, голоса, интонации и поведение.

Перед записью сотрудники подписали документ, в котором отдавали компании бессрочное право использовать свои образы и голоса по всему миру.

Отказаться прямо никто не предлагал — соглашение преподнесли как обязательное для участия в проекте.

Через три месяца в приложении Grok появилась виртуальная собеседница по имени Ani — аниме-девушка, которая флиртует, шутит и ведёт себя как живая.

По данным СМИ, её манеры, голос и мимика оказались похожи на тех самых сотрудниц, чьи данные использовали при обучении.

Некоторые работницы признались, что чувствуют себя обманутыми: они не знали, что их биометрию могут использовать для создания сексуализированного образа.

Эксперты отмечают, что история xAI показывает, насколько уязвима сфера ИИ, когда речь идёт о правах людей на собственный облик и голос.