Вчені з Пекіна створили систему штучного інтелекту SpikingBrain 1.0, здатну, за їхніми заявами, виконувати завдання до 100 разів швидше за традиційні моделі. Розробку називають мозкоподібною, вона працює на китайських чіпах MetaX та споживає значно менше енергії, ніж західні системи.
Вчені з Пекіна створили систему штучного інтелекту SpikingBrain 1.0, здатну, за їхніми заявами, виконувати завдання до 100 разів швидше за традиційні моделі. Розробку називають мозкоподібною, вона працює на китайських чіпах MetaX та споживає значно менше енергії, ніж західні системи.
Дослідники Інституту автоматизації Китайської академії наук представили нову мовну модель, що базується на принципі так званих спайкових обчислень. На відміну від звичайних моделей на архітектурі Transformer, таких як ChatGPT, де активна вся мережа, нейрони спрацьовують тільки при отриманні конкретного сигналу. Такий подійний підхід знижує енергоспоживання та прискорює обробку інформації, нагадуючи роботу людського мозку.
Команда створила два варіанти SpikingBrain 1.0: менший з 7 млрд параметрів і більший з 76 млрд. Обидві версії навчалися на 150 млрд токенів даних, що значно менше за типові обсяги для моделей цього класу. У тестах система показала вражаючі результати: модель на 7 млрд параметрів опрацювала запит довжиною 4 млн токенів більш ніж у 100 разів швидше за стандартні рішення, а в іншому експерименті зафіксовано 26,5-кратне прискорення при генерації першого токена з контексту в 1 млн токенів. SpikingBrain 1.0 стабільно працював протягом кількох тижнів на установці із сотень чіпів MetaX, створених шанхайською компанією MetaX Integrated Circuits. Це показує життєздатність розробки на базі китайського обладнання без участі рішень NVIDIA. Провідний дослідник Лі Гуоці також відзначає оптимізацію для китайської архітектури чіпів.
Нова система має стратегічне значення для Китаю з огляду на те, що LLM працює повністю в рамках китайської екосистеми ІІ, використовуючи платформу чіпів MetaX. Це стає особливо важливим, оскільки США посилюють контроль над експортом передових чіпів ІІ. Ефективність моделі є особливо важливою для аналізу великих масивів даних. Потенційні сфери застосування таких систем включають юридичні документи, медичні записи і навіть наукове моделювання.