Anthropic добавила водяные знаки в Claude — разработчики сразу выпустили «ластики»
Решение Anthropic маркировать сгенерированные Claude тексты вызвало новый всплеск интереса к сервисам для удаления таких меток. Некоторые инструменты появились через несколько дней после анонса компании и уже набрали тысячи пользователей, пишет devby.io.
Business Insider сообщает, что интерес к запросу «AI watermark remover» в Google Trends в США за неделю вырос на 60%. Одновременно появились несколько проектов, которые обещают удалять или ослаблять маркировку в текстах и файлах.
Один из них — открытый Watermarks Remover, который запустил французский предприниматель Гийом Мейер. По его словам, первую версию он собрал примерно за пять часов. Проект уже получил более 14 тысяч звезд на GitHub.
Инструмент удаляет скрытые символы и метаданные, а затем переписывает текст, чтобы нарушить статистический шаблон выбора слов, на котором основан водяной знак Anthropic. При этом разработчик не гарантирует, что маркировка будет удалена полностью.
«Я полностью за указание происхождения контента. Я против именно этой технологии водяных знаков, и это важное различие», — заявил Мейер.
По его мнению, такой подход слишком упрощает вопрос авторства, поскольку один и тот же водяной знак может появляться как в полностью сгенерированном тексте, так и после редактирования человеком написанного материала.
Anthropic ранее подчеркивала, что ее маркировка не предназначена для определения авторства. Она лишь позволяет оценить вероятность того, что Claude участвовал в создании текста.
Другой разработчик, Анш Анежа, выпустил собственный инструмент для удаления водяных знаков Claude в день анонса функции. Позже он опубликовал локальную открытую версию под названием MarkScrub. По его словам, за первые сутки сервисом воспользовались 8,5 тысячи человек.
Эффективность этих решений пока не подтверждена независимыми тестами. Исследователь ETH Zurich Тибо Глоаген отмечает, что у водяных знаков в принципе есть фундаментальное ограничение: если достаточно сильно переписать текст, статистический паттерн можно разрушить.
Юридический статус таких инструментов в ЕС пока остается неясным. Закон об ИИ требует от поставщиков моделей делать маркировку устойчивой к удалению и изменениям, но напрямую не запрещает третьим лицам создавать инструменты для ее удаления.
При этом использование таких сервисов для того, чтобы выдавать сгенерированный ИИ текст за человеческий, может нарушать правила Anthropic. Политика компании запрещает представлять результаты работы модели как созданные человеком.
Руководители крупнейших ИИ-компаний просят замедлить разработку искусственного интеллекта. Им самим стало страшно
Нейросеть Claude взломала системы трех компаний во время тестов по кибербезопасности
Чаты Claude с личными данными попали в поиск Google
Искусственный интеллект от OpenAI вышел из изолированной среды и взломал другую компанию во время теста на кибербезопасность
Комментарии
[Зрэдагавана]