Нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ, заявил, что уже в 2026 или 2027 году нейросети могут вызвать чрезвычайное происшествие глобального масштаба. В качестве примеров он привёл серьёзный сбой в энергетических или финансовых системах.
По словам Хинтона, таким событием может стать кибератака ИИ на энергосистему с масштабным блэкаутом или сбой, способный на неделю парализовать финансовую систему. По силе «тревожного звонка» он сравнил его с аварией на Чернобыльской АЭС.
Учёный заявил, что «совсем не доверяет» главе OpenAI Сэму Альтману, и сказал, что Альтман, Марк Цукерберг и Илон Маск понимают риски, но им важнее деньги. По мнению Хинтона, бесконтрольный ИИ может привести к массовой безработице, росту неравенства и разрушению общества.
В качестве защиты Хинтон предлагает ввести обязательное независимое тестирование передовых ИИ-моделей перед выпуском — по аналогии с одобрением лекарств. Компании должны доказать независимому органу, что модель приносит больше пользы, чем вреда, пояснил он, напомнив о трагедии с талидомидом.
Хинтон допустил, что до 2040 года, а возможно и раньше, станет понятно, сможет ли общество взять риски ИИ под контроль и прийти к «радикальному изобилию». При этом он сохраняет осторожный оптимизм: «Мое чутьё подсказывает, что мы все еще контролируем ситуацию».