Илон Маск назвал три принципа, без которых ИИ грозит безумие

Илон Маск заявил, что мощные технологии всегда несут риск, особенно когда они опираются на искажённые данные. Он напомнил, что ИИ растёт на информации из интернета и впитывает ложь так же легко, как факты. Из-за этого системы путают реальность и делают выводы, которые Маск назвал «безумными».

Он привёл пример Apple Intelligence. В начале 2025 года она отправила фейковое уведомление о победе британского дартсиста Люка Литтлера в чемпионате PDC — ещё до того, как спортсмен реально выиграл турнир. Маск отметил, что такие ошибки показывают: ИИ всё ещё не умеет уверенно отличать факт от вымысла.

Он сказал, что безопасные системы должны держаться за три опоры: правду, эстетическое чувство и интерес к устройству мира. По его словам, ИИ должен стремиться понять реальность и помогать людям, а не толкать технологии к разрушению.

Маск напомнил, что его мнение разделяет Джеффри Хинтон, которого называют «крёстным отцом ИИ». Хинтон оценивает риск гибели человечества от ИИ в 10–20 %. Он считает, что в ближайшее время опасность создают галлюцинации и автоматизация рабочих мест начального уровня.

«Мы надеемся, что если достаточно умных людей проведут достаточно исследований, располагая достаточными ресурсами, мы найдём способ создания таких систем ИИ, которые никогда не захотят причинить нам вред», — сказал Хинтон.