Inglês 
Francês 
Alemão 
Italiano 
Japonês 
Norueguês 
Português 
Espanhol 
4 min de leitura 
0 comentários 
A demonstração da Tiiny AI com o Pocket Lab mostra o menor supercomputador de IA do mundo rodando um LLM de 120B sem internet, sem nuvem e sem GPU dedicada.
O menor supercomputador de IA do mundo acaba de aparecer em uma demonstração que parece desafiar o senso comum da indústria: um PC de 2011 rodando um modelo de 120 bilhões de parâmetros de forma local, sem conexão com a internet e sem depender de infraestrutura de nuvem.
A proposta é direta: com o Pocket Lab, a Tiiny AI quer levar inteligência de modelos grandes para pessoas que não têm acesso a GPU moderna, upgrades caros ou cloud, colocando a inferência no próprio dispositivo com foco em privacidade e uso offline.
O que foi demonstrado na prática
A Tiiny AI apresentou um vídeo de demonstração em um único take contínuo, no qual o GPT OSS 120B rodou no Pocket Lab, o “supercomputador pessoal” proprietário da empresa.
-
Por mais de 400 anos, marinheiros relataram cruzar um oceano que brilhava no escuro como neve, sem ondas e sem reflexos, apenas um brilho uniforme se estendendo até o horizonte, e em 2019 um satélite registrou o fenômeno cobrindo mais de 100.000 km² por mais de 40 noites seguidas ao sul de Java, mas os cientistas ainda não sabem exatamente o que desencadeia o processo
-
Japão vira referência com processo genial que recicla 100 toneladas de plástico por dia usando técnica que remove contaminantes, sensores ópticos que separam PP e PE em segundos e linhas industriais que transformam toneladas de resíduos em paletes reutilizáveis.
-
China criou máquina ‘impossível’ que muda a agricultura ao combinar drones, tratores autônomos com navegação centimétrica, sensores e inteligência artificial
-
A cidade flutuante movida a 2 reatores nucleares que abandona o vapor, usa campos eletromagnéticos para lançar aeronaves ao céu e inaugura uma nova era dos porta-aviões de guerra
O destaque é que o teste foi feito sem internet e, ainda assim, com execução fluida.
Para evidenciar a compatibilidade com hardware antigo, o time conectou o Pocket Lab a um computador de 2011 com Intel Core i3 530, 2GB de DDR3 e monitor CRT.
Após a conexão, a máquina conseguiu operar o modelo em formato de chat, com média de 20 tokens por segundo.
Por que isso chama tanta atenção na indústria de IA
O ponto central do anúncio é a quebra de uma premissa comum: a ideia de que modelos grandes exigem clusters massivos de GPU ou infraestrutura de nuvem para entregar desempenho aceitável.
Na fala atribuída a Samar Bhoj, diretor de GTM da Tiiny AI, a empresa afirma que a demonstração prova algo que por muito tempo foi tratado como impossível, defendendo que a IA avançada pode rodar privada, offline e em hardware comum, inclusive em um PC de 14 anos.
Em outras palavras, o menor supercomputador de IA do mundo é apresentado como um caminho para reduzir dependência de data centers, concentrando o poder de inferência no usuário final.
Como o Pocket Lab rodou um modelo de 120B offline
A base do Pocket Lab combina duas tecnologias proprietárias citadas pela Tiiny AI: TurboSparse e PowerInfer. A promessa é ganhar eficiência sem “matar” a capacidade do modelo.
TurboSparse aumenta a eficiência ativando apenas os neurônios necessários para cada etapa, sem reduzir a inteligência do modelo. Já o PowerInfer distribui cargas de trabalho de IA entre CPU e NPU para melhorar desempenho consumindo menos energia.
O resultado, segundo a demonstração, é o menor supercomputador de IA do mundo tornando viável rodar um LLM de grande porte localmente, com menor exigência energética do que sistemas tradicionais baseados em GPU.
Desempenho, tarefas e números mostrados no vídeo
No teste, o time executou tarefas de raciocínio e análise. O chat começou com “Who are you?”, seguido de “Why does 1+1=2”. O modelo respondeu em detalhes sem interrupções.
A resposta usou 1582 tokens e teria sido processada a 18,6 tokens por segundo, reforçando o argumento de que a experiência não foi apenas “ligar e mostrar”, mas sustentar uma interação real com contexto e explicação.
Especificações do dispositivo e compatibilidade com modelos populares
O Pocket Lab é descrito como um MiniPC reconhecido como “The Smallest MiniPC (100B LLM Locally)” após o lançamento em 10 de dezembro. Ele tem capacidade de potência de 65W e suporta instalação de modelos open source conhecidos, como Llama, Qwen, DeepSeek, Mistral, Phi e GPT OSS.
Nas especificações citadas, o Pocket Lab traz CPU ARMv9.2 de 12 núcleos, 80GB de memória LPDDR5X e SSD de 1TB, com peso aproximado de 300 gramas.
Dentro dessa proposta, o menor supercomputador de IA do mundo se posiciona como um dispositivo portátil e focado em execução local.
Para quem isso foi feito e o que muda no uso diário
A Tiiny AI posiciona o Pocket Lab para criadores, desenvolvedores, pesquisadores, estudantes e profissionais que precisam de aplicações pessoais de IA.
A lista de usos inclui raciocínio em múltiplas etapas, entendimento contextual profundo, fluxos com agentes, geração de conteúdo e manipulação segura de dados, tudo sem precisar de internet.
Outro ponto enfatizado é a privacidade: dados do usuário, preferências e documentos ficam armazenados localmente com criptografia de nível bancário, oferecendo memória persistente e mais privacidade do que sistemas baseados em nuvem.
No fim, a promessa do menor supercomputador de IA do mundo é simples de entender: levar capacidade de LLM grande para perto do usuário, com controle local, offline e com menos dependência de infraestrutura externa.
Qual seria o seu uso número 1 se você tivesse um dispositivo local e offline como o menor supercomputador de IA do mundo?
-
-
-
3 pessoas reagiram a isso.