Anthropic в заявке S-1 допустила скорое достижение порога самоулучшающегося ИИ

Anthropic, готовя выход на биржу, в регистрационном документе S-1 указала, что может вскоре достичь порога RSI и способна заметить значительное ускорение в развитии ИИ лишь после того, как оно произошло.

Бесконечный зеркальный коридор серверных стоек в дата-центре — метафора рекурсивного самоулучшения ИИ
Фото: ИИ bitPress

Как сообщает Techmeme, в заявке S-1 компания Anthropic указала, что может «imminently meet» — «в скором времени достичь» — установленного ею порога RSI.

В том же документе компания признаёт риск того, что не сможет своевременно распознать «significant acceleration» («значительное ускорение») в развитии ИИ и обнаружит его только после того, как оно уже произошло.

S-1 — это регистрационная форма, которую компании подают в комиссию по ценным бумагам США (SEC) при подготовке к публичному размещению акций на бирже. RSI (recursively self-improving AI) — рекурсивно самоулучшающийся искусственный интеллект, то есть система, способная самостоятельно повышать собственные возможности.

Для инвесторов и деловых партнёров такие формулировки означают, что быстрый рост возможностей ИИ компания официально относит к рискам бизнеса, связанным с её технологической траекторией.