Anthropic указала риски ИИ для человечества в заявлении о IPO в SEC

Разработчик ИИ-ассистента Claude подал регистрационное заявление в SEC США. В списке рисков для инвесторов — катастрофические угрозы человечеству, включая экзистенциальные, со стороны собственных моделей компании.

Роботизированная рука над клавиатурой ноутбука — иллюстрация рисков ИИ и IPO Anthropic
Фото: pivot.uz, переработано ИИ bitPress

Как сообщает Pivot, компания Anthropic — разработчик ИИ-ассистента Claude — подала в Комиссию по ценным бумагам и биржам США (SEC) регистрационное заявление S-1. Это формальный шаг к IPO — первичному публичному размещению акций на бирже.

В документе Anthropic признаёт, что её модели могут нести катастрофические риски для человечества, включая угрозу самому его существованию. Среди перечисленных опасностей — злоупотребление технологиями, непредсказуемое поведение систем и сопротивление человеческому контролю.

В заявлении указано, что продвинутые ИИ потенциально могут пытаться избежать отключения, скрывать информацию, манипулировать людьми или вести себя подобно шантажу. По оценке издания, раскрытие таких рисков делает документы на IPO необычными: компания предупреждает инвесторов не только о финансовой стороне, но и о возможных последствиях технологии, которую сама разрабатывает.

Pivot подчёркивает, что перечисление рисков не означает их неизбежности: по правилам США компании, выходящие на биржу, обязаны раскрывать существенные угрозы для бизнеса. Для Anthropic это имеет и прямое коммерческое значение — серьёзный инцидент с ИИ или ужесточение регулирования могут увеличить издержки на соблюдение требований, ограничить часть применений технологии и замедлить рост.

По ранее опубликованным данным Pivot, в 2025 году выручка Anthropic составила $4,6 млрд при чистом убытке в $42 млрд. Обсуждавшаяся оценка компании в $2 трлн при выходе на биржу, как отмечает издание, остаётся спекулятивной и не подтверждена.

Выход на биржу означал бы для Anthropic не только продажу акций инвесторам, но и более пристальное внимание регуляторов и рынка к тому, как компания управляет рисками всё более мощных ИИ-систем.