132
Китайські вчені створили ШІ, що працює у 100 разів швидше за конкурентів
— Технології&Авто
Вчені презентували SpikingBrain 1.0 — «мозкоподібну» систему штучного інтелекту, яка здатна виконувати завдання до 100 разів швидше, ніж звичайні моделі.
Про це пише Interesting Engineering.
Що сталося
Дослідники з Інституту автоматизації Китайської академії наук у Пекіні презентували SpikingBrain 1.0 «мозкоподібну» систему штучного інтелекту, яка здатна виконувати завдання до 100 разів швидше, ніж звичайні моделі. Вона створена за принципом так званих «спайкових обчислень», що імітують роботу біологічних нейронів. Замість постійної активації всієї мережі, як у випадку з моделями на базі Transformer, система реагує лише на конкретні сигнали. Такий підхід дозволяє знижувати споживання енергії та пришвидшувати обробку даних.
У тестах SpikingBrain 1.0 навчалася менш ніж на 2% даних, які зазвичай потребують інші LLM, і демонструвала значне прискорення. Наприклад, під час обробки запиту з 4 мільйонами токенів менша версія моделі відреагувала більш ніж у 100 разів швидше за стандартну систему. У ще одному тесті вона показала 26,5-кратне прискорення під час генерації першого токена з контексту в 1 мільйон токенів.
Дослідники створили дві версії SpikingBrain 1.0 — з 7 та 76 млрд параметрів, навчених на 150 млрд токенів. Система стабільно працювала на сотнях мікросхем MetaX — китайської альтернативи чипам Nvidia.
Розробники вважають, що така архітектура може застосовуватись у сферах, які потребують роботи з великими обсягами даних: аналіз юридичних і медичних документів, секвенування ДНК, дослідження у фізиці високих енергій.
За матеріалами: vctr.media
Поділитися новиною
Також за темою
Китайські вчені створили ШІ, що працює у 100 разів швидше за конкурентів
SpaceX готується до виходу на ринок мобільних мереж
Жінки випередили чоловіків у використанні ChatGPT — звіт OpenAI
Маск урізає xAI: компанія звільнила понад 500 співробітників
Audi E5 Sportback втратив фірмові кільця
У Gmail з’явився нові функції: персоналізовані акції та трекінг замовлень
