Anthropic включила в документы для выхода на биржу предупреждение о том, что достаточно мощные ИИ-системы могут представлять «катастрофические или экзистенциальные риски для общества», если их разработка и применение не будут ответственными. Компания признаёт, что не может гарантировать, что её собственные меры безопасности предотвратят такие последствия.
В проспекте Anthropic объясняет: чем шире возможности ИИ, тем серьёзнее потенциальный вред от неправильно настроенных или намеренно используемых моделей. Компания принимает решения о безопасности своих систем, но не уверена, что другие участники отрасли будут применять сопоставимые меры защиты.
Предупреждение появилось на фоне подготовки к IPO. По оценке авторов публикации, компания может претендовать на оценку до $2 трлн, при этом в первом полугодии 2026 года она потеряла $80 млрд.
В документах перечислены и другие риски для бизнеса: нехватка электроэнергии и инфраструктуры для дата-центров, сопротивление их строительству и возможные юридические претензии из-за использования продуктов компании.
Ранее Anthropic призывала замедлить разработку наиболее мощных ИИ-моделей на уровне всей отрасли, представляя это как способ снизить риски. Однако в проспекте она предупреждает, что более медленное развитие рынка её моделей, платформы и приложений или сокращение спроса могут замедлить рост бизнеса и ухудшить финансовые результаты.