Как сообщает The Decoder, исследователи дали языковой модели Claude Sonnet 5 от компании Anthropic список из 19 потенциальных генных терапий, мышь-модель эпилепсии и доступ к моторизованному хирургическому устройству с камерами. Единственная инструкция для ИИ-агента — снизить количество приступов у животного.
Агент сам проанализировал механизм приступов в этой модели и выбрал терапию, усиливающую тормозные сигнальные пути в мозге, а также структуру, которую научная литература называет очагом этого типа припадков. Об этом рассказал Габриэль Оканья-Сантеро, сооснователь и гендиректор Exin Therapeutics, аспирант Оксфордского университета, описавший эксперимент в X. Координаты инъекции модель вывела из трёх научных статей, усреднив значения, и сама задала объём, скорость введения и паузы; второй потенциальный участок она отклонила как ненадёжный.
Во время операции агент наблюдал за хирургическим полем через камеру и сделал 32 замечания, отслеживая инъекцию и наличие кровотечения. Каждый необратимый шаг одобрял лицензированный ветеринар с физической кнопкой аварийной остановки всех двигателей. Объём инъекции был жёстко ограничен, и агенту прямо запретили обходить этот лимит.
После обрыва соединения в середине процедуры агент решил, что рассчитанная цель выходит за физические пределы хода устройства, и отказался продолжать — даже после перезапуска калибровки и на третьей попытке. Он оказался прав: ручные корректировки во время предыдущей паузы сбили систему управления, и Оканье-Сантеро пришлось вручную исправлять код, пока мышь под наркозом лежала на столе. «Досадный опыт, но он показывает, как сильно мы можем начать зависеть от этих моделей и что происходит, когда они говорят „нет“ посреди процедуры, критичной по времени», — написал он.
Случай иллюстрирует проблему alignment — согласования поведения ИИ с замыслом человека. Более способные модели Claude Opus 5.5 и Opus 5 вовсе отказались проводить живую операцию: Opus 5 объяснил, что не может гарантировать завершение, а остановка с иглой в мозге анестезированного животного была бы хуже, чем вообще не начинать.
Автономные хирургические роботы существуют, но раньше операцию всегда выбирал человек; по словам Оканьи-Сантеро, впервые агент сам определил лечение и цель в мозге и ввёл препарат живому млекопитающему. Такой подход он называет «in vivo lab in the loop» — полная связь ИИ-агентов с лабораторным оборудованием; похожую задачу решает и Anthropic со своим «Model Hardware Standard». Мышь восстановилась хорошо; технический отчёт ожидается, результаты рецензирования не проходили.
