27
АІ-модели только имитируют мышление: исследование Apple
— Технологии&Авто
Исследование, проведенное учеными Apple, показало, что большие языковые модели, такие как ChatGPT, демонстрируют ограничения в способности к логическому мышлению, особенно при добавлении несущественных деталей к математическим задачам.
Хотя такие модели успешно решают простые математические задачи, их легко сбить с толку, добавив лишнюю информацию, не имеющую отношения к решению. Например, модель может легко посчитать количество киви, собранных Оливером, в стандартной задаче. Однако, если добавить деталь, что несколько киви были меньше среднего размера, ИИ ошибочно включает эту информацию в свой расчет, вычитая киви, хотя это не нужно.
Авторы исследования, в частности Мехрдад Фараджтабар, подчеркивают, что такое поведение демонстрирует неспособность ИИ к настоящему логическому мышлению. Модели следуют шаблонам, заложенным в их данные, и не умеют корректно адаптироваться к новым аспектам задач.
Несмотря на попытки решить эти проблемы с помощью техники оптимизации запросов (prompt engineering), исследователи пришли к выводу, что для более сложных условий требуется слишком много контекста. Это открывает важный вопрос о том, способен ли ИИ достичь уровня настоящего мышления и логического анализа.
По материалам: cikavosti
Поделиться новостью
