61
Какой информацией не стоит делиться с искусственным интеллектом
— Технологии&Авто
Искусственный интеллект все чаще помогает редактировать документы, сокращать тексты и выполнять рабочие задачи. В то же время, пользователи нередко передают чат-ботам значительно больше информации, чем требуется для выполнения запроса.
Специалисты проанализировали запросы к искусственному интеллекту и обнаружили среди загруженных материалов программный код, клиентские базы и внутреннюю документацию предприятий, пишет LRT.
Какие данные могут попасть в ИИ
Проблема часто возникает из-за простой привычки: если нужно сократить или отредактировать документ, пользователь копирует весь файл, не убирая информацию, не касающуюся непосредственно задачи.
Руководитель направления анализа данных и аналитики клиентов Tele2 Инга Рудинскайте отмечает, что вместе с текстом в ИИ могут попадать данные, которые для выполнения запроса вообще не нужны.
«Человек хочет исправить стиль письма или сократить документ, поэтому просто копирует весь текст. При этом в систему искусственного интеллекта попадают имена, номера телефонов, адреса, финансовые данные или другая информация, которая для выполнения самой задачи вообще не нужна», — пояснила она.
Риск составляют не только пароли или реквизиты банковских карт. Обычное рабочее письмо или черновик договора также могут содержать детали переговоров, ценовые условия или другую внутреннюю информацию. Отдельные фрагменты могут казаться неважными, но вместе они способны раскрыть много информации о человеке или компании.
Что не стоит передавать чат-ботам без надобности:
- паспортные данные и номера документов;
- банковские счета и финансовые данные;
- медицинскую информацию;
- имена, номера телефонов и адреса клиентов;
- клиентские базы;
- внутреннюю документацию компании;
- конфиденциальные договоры и детали переговоров;
- код, если он не предназначен для публичного доступа.
Как защитить данные при работе с ИИ
Перед загрузкой документа специалисты советуют задать себе простой вопрос: комфортно ли вам будет, если эта информация станет публичной? Если ответ отрицательный, такие данные лучше не передавать чат-боту.
Отдельно следует учитывать разницу между публичными чат-ботами и корпоративными решениями на базе ИИ. Корпоративные инструменты могут давать компаниям больше возможностей контролировать обработку данных и то, используются ли они для обучения моделей.
Еще один способ снизить риски — заранее анонимизировать документ. К примеру, паспортные данные, банковские счета и медицинские данные можно удалить, а реальные имена заменить на «Клиент А» или «Компания X».
В таком случае ИИ сможет выполнить необходимую задачу, не получая излишней чувствительной информации.
По материалам: Телеканал 24
Поделиться новостью
