20
Банки предупредили о рисках покупок через ИИ-агентов
— Технологии&Авто
ИИ уже может не просто советовать, что купить, но и самостоятельно делать покупки в интернете. Однако вместе с удобством такая автоматизация создает новые риски — от излишних расходов и мошенничества до утечки платежных и персональных данных.
Об этом говорится в совместном документе шести крупных международных банков «Building Trust in Agentic Commerce», опубликованном 22 сентября, пишет Gizmodo. Финансовые учреждения предупреждают о рисках так называемой агентной торговли, которые растут по мере того, как ИИ получает больше автономии.
ИИ-агенты для шопинга
Разработчики ИИ, ритейлеры и платежные компании работают над так называемыми ИИ-агентами — системами, которые могут автоматизировать значительную часть онлайн-покупки: от поиска товара до оформления заказа и оплаты.
В то же время потребители пока неохотно дают таким системам полный доступ к своим деньгам и аккаунтам. В отчете отмечается, что люди не всегда понимают, будет ли действовать ИИ-агент именно в их интересах.
Экономьте на покупках с картами, которые возвращают деньги. Каталог предложений на Finance.ua. 💳
Среди опасений возможность приобрести не тот товар, потратить больше, чем планировалось, или стать жертвой мошенничества.
Риски растут и потому, как именно работают алгоритмы. Например, ИИ-агент может отдать предпочтение определенному товару или способу оплаты не потому, что это лучший вариант для покупателя, а через более высокую комиссию или более низкую стоимость обработки данных.
Пять главных рисков
Авторы документа выделяют пять сфер, требующих особого внимания:
- прозрачность,
- безопасность,
- конфиденциальность и данные,
- выбор,
- совместимость разных систем.
Отдельно банки предупреждают о потенциальном росте количества мошеннических операций, споров по поводу покупок и других проблем с платежами. При утечке данных под угрозой могут оказаться особо чувствительные сведения как покупателей, так и продавцов.
Показательным примером послужил недавний случай с ИИ-помощником Muse от Meta. Компания обнаружила и исправила в нем критическую уязвимость, которая могла позволить злоумышленнику перехватить контроль над помощником и воспользоваться предоставленными ему разрешениями.
При этом банки не исключают саму идею покупок через ИИ. Напротив, они считают, что агентная торговля может стать одним из распространенных способов взаимодействия покупателей и продавцов.
Однако для этого, по мнению авторов документа, сначала нужны отраслевые стандарты, четкие правила и механизмы защиты потребителей. В настоящее время развитие технологий опережает формирование таких норм.
Шесть банков планируют подготовить следующий документ, в котором подробнее объяснят, как реализовать пять определенных принципов — прозрачность, безопасность, защиту данных, свободу выбора и совместимость систем — на практике.
По материалам: Finance.ua
Поделиться новостью
