Как сообщает THE TECH, исследователи Google DeepMind и Университета Пенсильвании представили DetectorScope — инструмент, который определяет, написан ли текст нейросетью, и объясняет, на основе каких признаков сделан вывод. Обычные детекторы такого рода выдают только итоговую оценку без пояснений.
DetectorScope разбивает каждое решение на отдельные признаки — например, характерное употребление слов или повторяющиеся фразы — и показывает, где они находятся в тексте. У каждого признака есть вес: он отражает, насколько сильно признак сдвинул оценку в сторону ИИ или человека. Так, разговорные вставки вроде «как я уже говорил» снижают вероятность того, что текст создала нейросеть.
В демоверсии на Hugging Face (платформа для размещения моделей машинного обучения) можно навести курсор на текст и увидеть фрагменты, на которые опирается детектор. Пользователь сам выбирает баланс между прозрачностью и точностью: при строгой настройке признаков меньше, но каждый из них легко проверить, при мягкой точность выше, зато объяснения менее четкие. По данным авторов, такая прозрачность почти не снижает качество распознавания.
В основе инструмента — открытая модель Gemma 2 от Google; код DetectorScope выпущен под лицензией Apache 2.0, модели доступны на Hugging Face. Основная версия обучена на новостях, эссе, отзывах и других текстах, созданных 40 разными нейросетями, еще две распознают рецензии на научные статьи, написанные GPT-4o и Llama. Разработчики также предложили способ превратить любой существующий детектор в прозрачный.
Авторы предупреждают: DetectorScope — исследовательский проект, а не официальный продукт Google. Инструмент ошибается, в том числе на текстах, написанных людьми, поэтому его результаты нельзя использовать для решений о конкретных людях — например, при проверке студенческих работ, найме или отборе публикаций. Исследование представят на конференции EMNLP 2026 в Будапеште.
