Американский стартап Tiiny AI представил Tiiny AI Pocket Lab, который официально признан Книгой рекордов Гиннесса самым маленьким персональным ИИ-суперкомпьютером в мире. О новинке пишет издание Interesting Engineering.
Устройство, напоминающее по внешнему виду пауэрбанк, способно локально запускать Большие языковые модели с числом параметров до 120 миллиардов.
Разработка позиционируется как способ снизить зависимость ИИ-суперкомпьютеров от облачной инфраструктуры, серверов и высокопроизводительных графических процессоров. Pocket Lab обеспечивает вычислительную мощность уровня дата-центров, делая её доступной обычным пользователям.
Устройство нацелено на решение проблем устойчивого развития, роста энергозатрат и рисков для конфиденциальности, характерных для облачных сервисов.
Суперкомпьютер оснащён 12-ядерным процессором ARMv9.2 и потребляет до 65 ватт. Он эффективен для моделей с параметрами от 10 до 100 миллиардов, покрывая большинство прикладных задач, и может масштабироваться до 120 миллиардов параметров, обеспечивая функциональность уровня GPT-4.
Все данные пользователей, включая настройки и документы, хранятся локально с применением шифрования банковского уровня. Устройство поддерживает установку популярных open-source-моделей, например Llama, Qwen, DeepSeek, Mistral, Phi и GPT-OSS, а также простую настройку ИИ-агентов.
Полноценный запуск возможностей Pocket Lab запланирован на выставке CES в январе 2026 года.
