31
OpenAI будет маркировать сгенерированный текст водяными знаками ввиду требований ЕС
— Технологии&Авто
Компания OpenAI объявила о внедрении невидимых текстовых водяных знаков для соответствующих результатов ChatGPT и Codex. Новая технология под названием textGrain должна помочь идентифицировать контент, созданный пользователями Европейского Союза с помощью искусственного интеллекта.
Об этом говорится в блоге OpenAI.
Требование ЕС
Решение принято в ответ на требования Закона ЕС об искусственном интеллекте (EU AI Act), который обязывает поставщиков генеративных технологий обеспечивать возможность машиносчитываемого обнаружения сгенерированного текста.
Новая система textGrain работает путем добавления невидимого статистического сигнала при выборе слов моделью. Для проверки наличия этого сигнала компания создала специальный детектор.
На первом этапе доступ к нему получат только утвержденные исследователи и экспертные организации, а затем технологию планируется выпустить с открытым исходным кодом.
В ближайшие дни водяные знаки будут автоматически добавляться к ответам ChatGPT и Codex для пользователей в Европейском Союзе. Для разработчиков, использующих API OpenAI по всему миру, функция будет доступна по желанию — ее можно будет включить вручную.
Внедрение водяных знаков не влияет на качество сгенерированных ответов
В OpenAI утверждают, что использование водяных знаков не влияет на качество сгенерированных ответов и производительность моделей, в частности Astra. В то же время в компании отмечают имеющиеся технические ограничения:
- краткие и узкоспециализированные тексты (например, по математике) обнаруживать значительно сложнее из-за ограниченного выбора синонимов;
- ручное редактирование существенно ослабляет знак: замена 25% слов на синонимы снижает уровень обнаружения с 92% до 17%.
«Текстовый водяной знак не измеряет вклад человека, не устанавливает право собственности, не идентифицирует личность пользователя и не подтверждает достоверность информации», — отмечают в компании, призывая рассматривать технологию как один из дополнительных инструментов верификации.
Поделиться новостью
