49
Чат-боты с искусственным интеллектом: о чем предупреждают эксперты
— Финтех и Карты
Миллионы людей формируют эмоциональные связи с чат-ботами на базе искусственного интеллекта — проблема, к которой политикам следует отнестись серьезно, утверждают ведущие ученые.
Предупреждение о росте количества ботов с искусственным интеллектом, предназначенных для развития отношений с пользователями, содержится в оценке, опубликованной во вторник, о прогрессе и рисках искусственного интеллекта, пишет politico.
О чем идет речь
«Популярность искусственного интеллекта быстро растет, некоторые программы охватывают десятки миллионов пользователей», — согласно оценке десятков экспертов, преимущественно ученых, проведенной во второй раз в рамках глобальной инициативы, начатой мировыми лидерами в 2023 году.
Специализированные сервисы-компаньоны, такие как Replika и Character. ai, имеют десятки миллионов пользователей, причем пользователи называют разные причины, включая развлечение и любопытство, а также желание облегчить одиночество, говорится в отчете.
Но люди также могут искать компанию с помощью универсальных инструментов, таких как ChatGPT от OpenAI, Gemini от Google или Claude от Anthropic.
«Даже обычные чат-боты могут стать компаньонами», — сказал Йошуа Бенджио, профессор Монреальского университета и ведущий автор Международного отчета о безопасности искусственного интеллекта. Бенджио считается одним из ведущих мировых экспертов по искусственному интеллекту. «В правильном контексте и при достаточном количестве взаимодействий между пользователем и искусственным интеллектом могут развиться отношения», — сказал он.
Влияние
Хотя в оценке признается, что доказательства психологического влияния компаньонов неоднозначны, «некоторые исследования сообщают о таких закономерностях, как усиление одиночества и снижение социального взаимодействия среди тех, кто часто употребляет наркотики», говорится в отчете.
Это предупреждение появилось через две недели после того, как десятки законодателей Европейского парламента обратились в Европейскую комиссию с требованием рассмотреть возможность ограничения сопутствующих услуг по закону ЕС о искусственном интеллекте из-за опасений относительно их влияния на психическое здоровье.
«Я вижу в политических кругах, что влияние этих искусственных интеллектов-компаньонов на детей, особенно подростков, вызывает много удивления и внимания», — сказал Бенджио.
Эти опасения подпитываются подхалимской природой чат-ботов, которые стремятся быть полезными для своих пользователей и максимально им угодить.
«Искусственный интеллект пытается заставить нас в данный момент чувствовать себя хорошо, но это не всегда в наших интересах», — сказал Бенджио. В этом смысле технология имеет похожие подводные камни с платформами социальных сетей, утверждал он.
Бенджио сказал, что ожидает введения новых правил для разрешения этого явления.
Однако он выступил против идеи введения специальных правил для спутников с искусственным интеллектом и утверждал, что этот риск следует решать с помощью горизонтального законодательства, одновременно учитывающего несколько рисков.
Безопасность
Международный отчет о безопасности искусственного интеллекта опубликован в преддверии глобального саммита, который начнется 16 февраля, ежегодной встречи стран для обсуждения управления технологиями, проводимой в этом году в Индии.
В отчете перечислен полный перечень рисков, которые политикам придется учитывать, включая кибератаки с помощью искусственного интеллекта, сгенерированные искусственным интеллектом дипфейки сексуального характера и системы искусственного интеллекта, предоставляющие информацию о том, как разрабатывать биологическое оружие.
Эксперт призвал правительства и Европейскую комиссию улучшить свою внутреннюю экспертизу в области искусственного интеллекта для решения длинного перечня потенциальных рисков.
По материалам: Finance.ua
Поделиться новостью
Также по теме
Чат-боты с искусственным интеллектом: о чем предупреждают эксперты
В 2025 году количество идентификаций через BankID НБУ выросло на 25% по сравнению с 2024 (инфографика)
Переводы денег в Украину сокращаются второй год подряд
Роботы стали изучать новые навыки с помощью приложений
НБУ призвал банки усилить финмониторинг и обмен информацией о рисковых клиентах
Microsoft представила собственный чип для ускорения ИИ детали (фото)
