Americká startupová společnost Tiiny AI představila zařízení s názvem „Tiiny AI Pocket Lab“, které bylo oficiálně uznáno jako „nejmenší osobní superpočítač pro umělou inteligenci na světě“ podle Guinnessovy knihy rekordů.
Toto zařízení má podobu malého „power banku“ a je vybaveno schopností spouštět modely hlubokého učení (LLM) s až 120 miliardami parametrů místně, bez nutnosti připojení na cloud nebo využití tradičních grafických procesorů.
Tiiny AI se tímto inovativním produktem snaží umožnit jednotlivcům používání pokročilé umělé inteligence bez závislosti na datových centrech. Přesto však nabízí výkon srovnatelný s superpočítači, zmenšuje spotřebu energie a posiluje ochranu soukromí.
Zařízení bylo uvedeno na trh 10. prosince jako praktické řešení pro čelní výzvy udržitelnosti a rostoucím nákladům na energii, které vyplývají z tradiční architektury umělé inteligence.
Ve sdělení pro média řekl Samir Boug, ředitel marketingu a prodeje společnosti Tiiny AI: „I přes pokrok, který dosáhla cloudová umělá inteligence, se potýká s výzvami v oblastech spolehlivosti, bezpečnosti a udržitelnosti. S Tiiny AI Pocket Lab jsme přesvědčeni, že umělá inteligence by měla být k dispozici jednotlivcům, aby byla více soukromá a přizpůsobená každému zařízení.“
Zařízení bylo navrženo tak, aby splnilo různé potřeby osobního využití umělé inteligence a cílí na tvůrce, vývojáře, výzkumníky a studenty.
Nabízí pokročilé funkce, jako jsou vícestupňové inferenční procesy, porozumění kontextu, správa pracovních postupů, generování obsahu a bezpečné zpracování citlivých dat bez potřeby internetu. Data se ukládají místně s využitím šifrování na úrovni bank, což posiluje soukromí a zajišťuje dlouhodobou paměť.
Zařízení podporuje provoz modelů v rozmezí 10 až 100 miliard parametrů a dokáže spustit modely s až 120 miliardami parametrů, což poskytuje výkon srovnatelný s modelem GPT-4 při vícestupňové analýze, aniž by ohrozilo bezpečnost dat.
Tiiny AI Pocket Lab využívá procesor ARMv9.2 s 12 jádry a spotřebou 65 wattů, což umožňuje vysoký výkon s energetickou efektivitou a nízkou uhlíkovou stopou ve srovnání s tradičními systémy.
Zařízení se spoléhá na dvě klíčové technologie:
- TurboSparse: Tato technologie aktivuje pouze potřebné neuronové buňky pro zlepšení efektivity, aniž by ovlivnila výkon.
- Powerinfer: Otevřený zdrojový motor rozděluje zatížení umělé inteligence mezi centrální procesor (CPU) a neuronový procesor (NPU), což snižuje spotřebu energie.
Zařízení funguje na otevřeném zdroji, podporuje instalaci běžných modelů jako Llama, DeepSeek a GPT-OSS a uživatelům poskytuje pravidelné aktualizace a upgrady online. Tyto funkce budou podrobně představeny na veletrhu CES v lednu 2026.
