51
ChatGPT стал тайно маркировать свои тексты
— Технологии&Авто
ChatGPT стал тайно маркировать генерируемые им тексты. Разработчики внедрили систему невидимых водяных знаков — специальных символов, которые не заметны для глаз, но легко определяются специальными программами. Это новшество направлено главным образом против студентов и школьников, использующих искусственный интеллект для написания эссе и других учебных работ. Теперь преподаватели теоретически могут проверить, был ли текст создан человеком или нейросетью.
Эти невидимые символы представляют собой специальные Unicode-коды (например, неразрывного пробела), незаметные человеческому глазу, но видимые в специальных редакторах. К примеру, они отображаются в популярном текстовом редакторе Sublime Text или в онлайн-инструментах.
В блоге Rumi (сотрудники этой компании заметили это одними из первых) сообщают, что ChatGPT стал действовать вышеописанным образом только в новых моделях o3 и o4-mini при генерации длинных ответов (например, по запросу «напиши полное эссе о Департаменте образования»). Но личный опыт автора этой новости несколько иной — невидимые символы встраиваются и в краткие ответы, если генерируемый текст похож на читинг со стороны пользователя. Похоже, сейчас это работает только с ответами на английском языке.
На данный момент разработчики ChatGPT нигде не сообщали об этом нововведении — вероятно, намеренно, чтобы о нем знало как можно меньше людей и, соответственно, такие водяные знаки не удалялись (а стираются они в любом текстовом редакторе). В Rumi видят это временной мерой со стороны OpenAI, ведь общественность рано или поздно массово узнает о таком поведении нейросетей, с которым легко бороться.
По материалам: ITsider.
Поделиться новостью
