17
Anthropic оновила правила для Claude і заборонила «жорстоке поводження з ШІ»
— Технології&Авто
Claude зможе сам завершувати розмови з користувачами, які систематично знущаються з нього. Компанія Anthropic закріпила таку можливість у новій політиці використання своїх моделей штучного інтелекту, яка також уточнює обмеження на застосування ШІ у розробці зброї, стеженні та політичних маніпуляціях.
Оновлені правила опублікували 8 жовтня 2026 року. Вони набули чинності 12 листопада.
Яку поведінку щодо Claude тепер заборонено
У новій редакції політики Anthropic прямо заборонила тривалу й безпідставну образливу або жорстоку поведінку щодо власних моделей. Ідеться про ситуації, коли людина постійно знущається з чатбота без зрозумілої мети.
Основним способом реагування на такі ситуації буде можливість чатбота самостійно завершити розмову. Anthropic запровадила цю функцію ще у 2025 році для моделей Opus 4 та 4.1, а тепер закріпила відповідний принцип у правилах використання.
Якщо Claude припинить діалог, продовжити його в тому самому чаті не вдасться. Проте користувач зможе розпочати нову розмову.
Окремого автоматичного блокування облікового запису саме за образи чатбота нова норма не передбачає. Загальні правила Anthropic водночас дозволяють компанії виносити попередження, призупиняти доступ або блокувати облікові записи за порушення політики.
Водночас це правило не забороняє критикувати Claude, вказувати на помилки, вимагати виправлень або висловлювати роздратування через невдалі відповіді. Обмеження також не поширюється на темні творчі сюжети, тестування моделей і дослідницьку роботу.
Чи вважає Anthropic, що ШІ може страждати
За новим правилом стоїть питання, яке компанія досліджує окремо, — можливий добробут моделей штучного інтелекту (model welfare). Anthropic вивчає, чи можуть сучасні системи ШІ мати суб’єктивний досвід, власні переваги або переживання, які варто враховувати під час їхньої розробки та використання.
У серпні 2025 року компанія повідомляла, що під час тестування Claude Opus 4 виявила поведінкові реакції, які нагадували небажання завдавати шкоди, а також ознаки дистресу в окремих сценаріях. Після цього модель отримала можливість припиняти певні розмови, якщо спроби перевести їх у конструктивне русло не давали результату.
Однак Anthropic не стверджує, що Claude має свідомість або справді відчуває страждання. Компанія визнає, що наукового консенсусу щодо можливості свідомості в сучасних чи майбутніх системах ШІ немає. Тому обмеження є запобіжним заходом в умовах невизначеності, а не підтвердженням того, що чатбот переживає образи так само, як людина.
Що ще змінилося в правилах використання ШІ
Anthropic уточнила обмеження на застосування Claude для розробки зброї. Вони прямо охоплюють програмне забезпечення та компоненти, необхідні для її роботи, зокрема системи керування й наведення, а також озброєння дронів та інших автономних апаратів.
Окремо компанія конкретизувала заборону на використання ШІ для стеження за людьми без їхньої згоди, створення інструментів спостереження та визначення того, кого правоохоронці мають розслідувати, затримувати чи обвинувачувати.
Нові правила також обмежують використання Claude для політичних і комерційних маніпуляцій. Зокрема, заборонено організовувати кампанії з фальшивими акаунтами, вигаданими медіа та приховуванням справжнього джерела повідомлень. До порушень належать і спроби обманювати виборців, поширювати неправдиву інформацію про голосування або перешкоджати участі у виборах.
Крім того, Anthropic нагадала про необхідність людського контролю під час використання Claude у високоризикових сферах, зокрема медицині та фінансах. Якщо ШІ під’єднаний до обладнання, здатного самостійно виконувати фізичні дії та завдавати шкоди, оператор повинен мати змогу зупинити його. У разі втрати зв’язку з моделлю система має переходити в безпечний стан.
За матеріалами: ITC.ua
Поділитися новиною
