Компанія Tiiny AI заявляє, що Pocket Lab ‒ це найменший “суперкомп’ютер” у світі. Гаджет розміром зі смартфон здатний запускати мовні моделі на 120 мільярдів параметрів, що раніше було під силу лише дорогим та величезним пристроям.
При габаритах 14,2 х 8 х 2,53 см пристрій важить лише 300 грамів. Основою Pocket Lab стали новітні ARM v9.2-ядра та дискретний нейропроцесор (NPU) з продуктивністю 190 TOPS, а також значні 80 ГБ LPDDR5X. Такий набір дозволяє локально розгортати моделі Llama, GPT-OSS, DeepSeek, Mistral, Phi, Qwen та інші популярні LLM. Tiiny AI підкреслює, що пристрій розрахований не тільки на розробників, а й на ентузіастів, яким хочеться повноцінно поекспериментувати з локальним ІІ без дорогих робочих станцій.
Щоб досягти роботи 120-мільярдних моделей на такому компактному пристрої, Tiiny AI використовувала два ключові підходи. TurboSparse активує лише частину нейронів на кожному кроці, заощаджуючи обчислення без втрати якості, а PowerInfer розподіляє навантаження між CPU та NPU, забезпечуючи серверний рівень продуктивності при помітно меншому енергоспоживання.
Повноцінна прем’єра пристрою відбудеться на CES 2026. Tiiny AI запевняє, що Pocket Lab стане доступною альтернативою професійним GPU та потужним робочим станціям.