51
ChatGPT почав таємно маркувати свої тексти
— Технології&Авто
ChatGPT почав таємно маркувати тексти, які він генерує. Розробники впровадили систему невидимих водяних знаків — спеціальних символів, які не помітні для людського ока, але легко виявляються спеціальними програмами. Ця новація спрямована головним чином проти студентів і школярів, які використовують штучний інтелект для написання есе та інших навчальних робіт. Тепер викладачі теоретично можуть перевірити, чи був текст створений людиною або нейромережею.
Ці невидимі символи являють собою спеціальні Unicode-коди (наприклад, нерозривного пробілу), які непомітні людському оку, але видимі в спеціальних редакторах. Наприклад, вони відображаються в популярному текстовому редакторі Sublime Text або в онлайн-інструментах.
У блозі Rumi (співробітники цієї компанії помітили це одними з перших) повідомляють, що ChatGPT став діяти вищеописаним чином лише в нових моделях o3 та o4-mini при генерації довгих відповідей (наприклад, на запит «напиши повне есе про Департамент освіти»). Але особистий досвід автора цієї новини дещо інший — невидимі символи вбудовуються і в короткі відповіді, якщо текст, що генерується, схожий на чітинг з боку користувача. Схоже, що зараз це працює лише з відповідями англійською мовою.
На даний момент розробники ChatGPT ніде не повідомляли про це нововведення — ймовірно, навмисно, щоб про нього знало якомога менше людей і, відповідно, такі водяні знаки не видалялися (а стираються вони в будь-якому текстовому редакторі). У Rumi вбачають це тимчасовим заходом з боку OpenAI, адже громадськість рано чи пізно масово дізнається про таку поведінку нейромереж, з якою легко боротися.
За матеріалами: ITsider.
Поділитися новиною
