Компания Tiiny AI презентовала Tiiny AI Pocket Lab — самый маленький суперкомпьютер, который работает на базе ИИ. Книга рекордов Гиннесса присудила ему официальный статус самого миниатюрного персонального ИИ-суперкомпьютера.
Размеры устройства не превышают габаритов обычного пауэрбанка. Внешний вид тоже сильно его напоминает. Однако Tiiny AI Pocket Lab может запускать крупные языковые модели, не подключаясь к облаку, серверам или высокопроизводительным графическим процессорам. Компания хочет сделать ИИ более доступным для обычных пользователей. К тому же, по их словам, устройство поможет избежать проблем роста энергозатрат и рисков для конфиденциальности данных.
Базой для Pocket Lab служит 12-ядерный процессор ARM v9.2. Он эффективно работает с моделями от 10 до 100 миллиардов параметров, поэтому справляется с более чем 80% прикладных задач, и масштабируется до моделей на 120 миллиардов параметров, сравнимый с уровнем GPT-4 для сложных рассуждений и многоэтапного анализа. При этом он сохраняет офлайн-режим и обеспечивает полную безопасность данных. Tiiny AI собирается представить новое устройство на выставке CES 2026.
