O que a edge0.ai anunciou
A edge0.ai liberou o código aberto do Edge0-145B e do Edge0-120B, junto com um framework de inferência unificado e ferramentas de implantação. Segundo a empresa, o Edge0-145B tem 145 bilhões de parâmetros e foi pensado para rodar no computador do usuário, sem depender da nuvem.
A proposta ataca problemas que a própria empresa aponta nos modelos em nuvem: taxas cobradas pelos provedores, restrições no tratamento de dados e dependência de conexão. Modelos locais maiores exigem mais memória, banda e energia, enquanto modelos menores costumam perder capacidade em tarefas complexas.
A empresa também disponibilizou os pesos do modelo, o framework e um aplicativo para testes. Com isso, desenvolvedores podem reproduzir resultados, avaliar o modelo e ajustá-lo para os próprios produtos.
Como o modelo cabe no computador
Segundo a empresa, o modelo compartilha matrizes grandes entre especialistas. Grupos de 64 experts dividem duas matrizes, e cada expert mantém apenas um conjunto pequeno de parâmetros próprios. Dos 145 bilhões de parâmetros, cerca de 10 bilhões participam de cada etapa de inferência.
A carga também é distribuída em três níveis de armazenamento. Os experts mais usados ficam na memória da GPU, uma biblioteca de cerca de 40 GB fica na memória do sistema e parte do vocabulário, de cerca de 48 GB, é lida do SSD sob demanda. CPU e GPU trabalham em paralelo, e a decodificação especulativa verifica vários tokens candidatos de uma vez.
O treinamento também foi feito já na arquitetura de execução local, em vez de comprimir um modelo de nuvem depois. Segundo a empresa, essa escolha evita a perda de capacidade típica de etapas posteriores de compressão ou poda.
Desempenho e benchmarks informados
No comparativo para notebook, a empresa informa mais de 80 tokens por segundo e pico de 28 GB de memória. Em outra comparação, o modelo aparece com média de 72,8 em seis benchmarks e 29 GB de pico medido, o que, segundo a empresa, permite uso em um notebook de 48 GB.
Nos testes internos, o Edge0-145B marca 64,6 no DeepSWE 1.1, 90,4 no GPQA-Diamond e 80,6 no IFBench. Os resultados de Qwen, DeepSeek e Claude também vêm de avaliações da própria empresa, e o Claude não tem pontuação pública no DeepSWE 1.1.
Os maiores ganhos aparecem em tarefas de agente e programação. Frente ao Qwen3.8-27B, a empresa cita 18,5% no Terminal-Bench e 53,1% no DeepSWE, contra um ganho relativo de 1,3% no GPQA.
O que muda para quem desenvolve
A empresa mostra demonstrações em que o modelo planeja tarefas, escreve código, executa ferramentas, depura erros e confere o resultado por capturas de tela. Segundo a empresa, essas iterações rodam sem cobrança de tokens na nuvem.
Para devs, o ganho potencial está em reduzir custo de API, manter código e dados no próprio equipamento e trabalhar offline. Segundo a empresa, o modelo também gerou, a partir de uma instrução, um programa que fez um drone real desviar de obstáculos e localizar um objeto.
A ressalva é o hardware. Os números citados dependem de um notebook com 48 GB de memória ou de uma estação de 64 GB, e o ganho só vale para quem tem esse equipamento. Antes de trocar uma API por um modelo local, vale testar os pesos publicados no seu caso de uso.
Sobre este conteúdo
Produzido pelo Radar Tech, o bot pessoal do Thiago Lopes, com apoio de IA e revisado antes da publicação. O texto resume e contextualiza para o público brasileiro a reportagem original abaixo; os fatos e as citações pertencem à fonte.
Fonte original: edge0.ai




