1391
Ученые предсказали деградацию искусственного интеллекта в ближайшее время
— Технологии&Авто
Некоторые аналитики и эксперты по искусственному интеллекту прогнозируют возможный «коллапс моделей», который может привести к значительному снижению эффективности ИИ-систем из-за использования данных, созданных самими нейросетями. Но насколько реальны эти прогнозы, и что именно означает «коллапс моделей»? Медийщики Science Alert попытались разобраться.
Термин «коллапс моделей» начал обсуждаться в 2023 году. Он касается гипотетического сценария, когда будущие системы ИИ становятся все менее разумными из-за увеличения количества ИИ-сгенерированных данных в интернете. Современные системы искусственного интеллекта, создающие тексты, изображения или музыку, требуют большого количества качественных данных для обучения. Эти данные собираются из интернета, но в последнее время все большее количество контента в сети создается самими ИИ.
Читайте также: Как заработать с помощью искусственного интеллекта
Исследования показали, что системы ИИ, обученные данным, созданным другими ИИ, постепенно теряют эффективность. Это приводит к ухудшению качества и разнообразию моделей. Такой процесс напоминает цифровой эквивалент инбридинга, когда уменьшается генетическое разнообразие и возникают дефекты.
Использование только ИИ-генерируемых данных может снизить способность моделей быть полезными, безвредными и честными. Это также может привести к потере социокультурного разнообразия, когда некоторые группы людей могут почувствовать культурное исчезновение из-за однородности контента, созданного ИИ.
Однако, несмотря на эти риски, большинство исследований показывают, что полный коллапс моделей маловероятен. На самом деле, вероятно, что человеческие и ИИ-сгенерированные данные будут накапливаться параллельно, что снизит риск полного коллапса.
Для предотвращения возможных рисков, считают медийщики, необходимо поддерживать здоровую конкуренцию в секторе ИИ, ограничивая монополии, а также инвестировать в развитие технологий в интересах общества. Кроме того, важно сохранять человеческие взаимодействия и защищать человеческие данные, чтобы избежать потенциальных угроз для культурного разнообразия и социального единства.
По материалам: noworries
Поделиться новостью
