1
Исследователи использовали активность человеческого мозга, чтобы улучшить логику ИИ
Исследователи из Пекинского университета и Университета Цинхуа обнаружили частичное сходство между тем, как человеческий мозг и большие языковые модели обрабатывают логические задачи. А потом пошли дальше — использовали данные об активности мозга во время мышления, чтобы улучшить ответы ИИ.
Исследование было опубликовано в журнале Nature Machine Intelligence.
Как это работает
Речь идет о дедуктивном мышлении — когда из нескольких известных фактов следует сделать логический вывод. Например: если все коты — животные, а Мурчик — кот, то Мурчик — животное.
Для эксперимента исследователи использовали открытый набор данных fMRI — сканирование мозга людей, которые решали такие задачи. Затем те же задачи дали 10 языковым моделям с количеством параметров от 1,5 млрд до 72 млрд.
Ученые сравнили происходящее в участках человеческого мозга, связанных с логическим мышлением, с внутренней активностью нейросетей.
Оказалось, что между ними есть определенное сходство, хотя модели и люди обрабатывают информацию совсем не одинаково.
Затем исследователи создали метод, использующий паттерны активности человеческого мозга как ориентир и несколько изменяющий внутреннюю работу LLM при решении задач.
С ним модель вроде бы получает дополнительную подсказку не о том, в каком направлении обрабатывать информацию, скорее чем о том, какой ответ нужно дать.
Метод опробовали на всех 10 моделях. По данным авторов работы, он улучшал результаты в логических задачах и даже мог работать на несколько других типах задач, чем те, на которых его настраивали. В отдельных экспериментах точность возрастала до 13 процентных пунктов.
Исследователи также хотят проверить этот подход и на других когнитивных способностях и других способах записи активности мозга.
Они предполагают, что такие данные могут быть особенно полезны там, где сложно научить модель только на текстовых примерах.
Поделиться новостью
