Anthropic раскрыла детали работы водяных знаков в Claude

Фото: TechCrunch
Краткий ответ
Anthropic внедряет водяные знаки в текст, генерируемый ИИ-моделью Claude, для соответствия требованиям EU AI Act.
Компания Anthropic поделилась подробностями о внедрении водяных знаков в текст, генерируемый ИИ-моделью Claude. Эта инициатива направлена на соблюдение требований Евросоюза по прозрачности контента, созданного искусственным интеллектом. Водяные знаки не заметны для пользователей, но позволяют идентифицировать происхождение текста с помощью специального алгоритма.
Технология основана на подходе SynthID-Text, разработанном командой Google DeepMind. В отличие от методов, анализирующих стилистические особенности текста, водяные знаки внедряются через незначительные изменения в выборе слов или фраз. Anthropic планирует выпустить API для обнаружения таких меток, что упростит проверку контента.
Пользователи по-разному отреагировали на нововведение. Некоторые считают его необходимым для борьбы с дезинформацией, другие — излишним ограничением. Компания подчеркнула, что легкое редактирование текста не удаляет водяные знаки полностью, но полная переработка может сделать их неэффективными. В коде метки применяются минимально, в основном в комментариях, чтобы не нарушать его работоспособность.
Anthropic отметила, что другие крупные разработчики ИИ-моделей также внедряют аналогичные технологии в рамках обязательств по прозрачности. Это означает, что водяные знаки станут стандартом для идентификации контента, созданного искусственным интеллектом.
Частые вопросы
- Как работают водяные знаки в Claude?
- Водяные знаки внедряются в текст через незаметные изменения в выборе слов или фраз, которые можно обнаружить только с помощью специального ключа. Технология не влияет на качество контента.
- Можно ли удалить водяные знаки из текста?
- Легкое редактирование не устраняет водяные знаки полностью, но полная переработка текста с заменой всех слов может сделать их неэффективными.
- Как водяные знаки влияют на генерацию кода?
- В коде водяные знаки применяются минимально, так как модель должна создавать рабочий код. Они могут присутствовать в комментариях, но не влияют на функциональность.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml