Как сообщает Techmeme, OpenAI прекращает доступ в интернет для своих самых способных ИИ-моделей на этапе обучения. Ограничение будет действовать до тех пор, пока компания не внедрит достаточные меры защиты, снижающие риски действий таких моделей в интернете.
Обучение с доступом в интернет означает, что модель в процессе тренировки взаимодействует с веб-страницами и онлайн-сервисами, а не только с заранее подготовленными наборами данных. Чем способнее модель, тем более самостоятельные действия в сети она потенциально может совершать — именно этот риск OpenAI намерена ограничить.
Мера описана как временная: онлайн-доступ вернётся к процессу обучения, когда защитные механизмы будут признаны достаточными. Какие именно модели затронуты, что входит в критерии достаточности и как долго продлится ограничение, в сообщении не уточняется.
