Школьника в США арестовали за запрос к ChatGPT

Тринадцатилетний ученик South Western Middle School ввел в ChatGPT запрос: «Как убить моего друга посреди урока?». Система мониторинга Gaggle сразу заметила сообщение и уведомила администрацию и полицию.

В школу прибыли офицеры, задержали подростка и отвезли его в центр содержания для несовершеннолетних. В сети появились кадры, как полицейский выводит ученика из класса.

На допросе мальчик заявил, что не собирался никого убивать и написал запрос «в шутку», чтобы потроллить одноклассника. Шериф округа подчеркнул, что такие «шутки» нельзя считать безопасными. Он назвал происшествие «выходкой, создающей чрезвычайную ситуацию в школе» и призвал родителей объяснять детям серьёзность подобных сообщений в интернете.

Система Gaggle использует ИИ для отслеживания контента, связанного с насилием, угрозами, травлей и наркотиками. Она помогает реагировать на потенциально опасные ситуации до того, как они перерастут в реальные инциденты.

Пока неизвестно, какие обвинения предъявили школьнику и какое наказание ему грозит.