Science & Technology

Como usar JEV no Codex e Claude Code (e gastar menos tokens)

by Vini - AI Coders Academy

Share:

✨ Tópicos principais

  • Instalação e provedoresO JEV Gateway permite usar o JEV com harnesses como Codex, Claude Code, OpenCode e Gemini. O vídeo explica a instalação, a configuração da chave e como acompanhar as requisições pelo dashboard. 0:32
  • Como funciona o gatewayO gateway intercepta as requisições e encaminha ao JEV as chamadas de raciocínio sobre qual ferramenta usar; as demais seguem para o provedor do modelo principal. 5:13
  • Resultados dos benchmarksOs testes com tarefas de correção de bugs e criação de funcionalidades comparam tokens, requisições e tempo de execução, com resultados diferentes conforme o modelo e o tipo de tarefa. 9:19

🧠 Principais conclusões

  • Possível economia de tokensA proposta é usar o JEV para decidir quais ferramentas chamar e em que ordem, reduzindo o raciocínio necessário do modelo principal e, potencialmente, os tokens gastos. 2:36
  • Cache como ponto de atençãoAlterações no histórico podem prejudicar o cache e elevar custos. O gateway foi projetado para acrescentar contexto à requisição sem reescrever o histórico, mas esse comportamento ainda está sendo validado. 4:11
  • Resultados variam por modelo e tarefaNos testes de correção de bugs, houve reduções expressivas em alguns modelos. Para novas funcionalidades, o Fable 5.1 teve bons resultados, enquanto Opus 5 e Sonnet 5 pioraram em várias métricas na configuração testada. 11:54

📚 Lições aprendidas

  • Avaliar cada combinaçãoUsar o JEV Gateway não garante economia: os resultados mudam conforme o modelo e a tarefa, e alguns testes mostraram maior duração ou mais tokens. 12:26
  • Benchmarks ainda iniciaisAs medições foram feitas com poucas tarefas e repetições, então servem como um primeiro sinal, não como comprovação definitiva de desempenho. 9:19
  • Acompanhar o uso em tempo realO dashboard mostra para onde as requisições são encaminhadas, além de tokens, latência e confiança associada às chamadas de ferramentas. 6:14

🏁 Conclusão e próximos passos

  • Testar e contribuirO projeto está em alfa e o apresentador convida a comunidade a testar, validar os resultados e enviar melhorias ou contribuições ao repositório. 14:01
  • Participar da liveO vídeo também convida o público para uma live gratuita sobre workflows agênticos, anunciada para quinta-feira às 19h. 2:04

Transcript excerpt

0:00 Como que usa o JEV dentro do Codex e dentro do Claude Code? Essa foi uma pergunta que eu recebi para caramba lá dentro do Twitter, desde quando eu comecei a falar do JEV. Foi um dos primeiros canais BR a fazer o vídeo sobre o assunto também, se não o primeiro. E naturalmente as pessoas ficaram na dúvida, cara, beleza, é um modelo novo, mas como é que usa esse trem? Nesse vídeo eu vou te mostrar um jeito de você usar o JEV dentro do Codex, dentro do Claude Code, dentro do Endcraft e outras ferramentas através do JEV Gateway. E vou te mostrar porque isso faz sentido e quando talvez não faça

0:32 sentido. Bora nessa. Para instalar é muito simples, literalmente três passos. Você vai instalar com npm installço gateway. Uma vez que tá instalado, aí ele vai te disponibilizar já os comandos conforme os harness que a gente já tiver dando suporte. Aqui você vai ver que eu adicionei o codex e Claude, mas já tiveram outras pessoas que contribuíram aqui. Adicionando suporte ao Open Code, adicionou suporte ao Gemini. Já tem um camarada aqui que já abriu uma porrada de PR que eu tenho que revisar hoje, tá aqui com a gente contribuindo também.

🔒 The full, searchable transcript is available with Pro.

🔒 Unlock Premium Features

This is a premium feature. Upgrade to unlock unlimited Q&A, transcripts, mindmaps, and translations.

Questions & Answers

Common questions about this video

O que é o JEV Gateway e para que ele serve?

É uma camada que intercepta as requisições do agente e identifica se uma chamada precisa de raciocínio para escolher uma ferramenta. Quando isso acontece, o JEV ajuda a classificar qual ferramenta chamar; nos outros casos, a requisição segue diretamente para o modelo principal. 5:13

Como instalar e usar o JEV com Codex ou Claude Code?

O vídeo descreve a instalação com npm e explica que, depois de instalar, é possível configurar um harness compatível e inserir uma chave do JEV. Em seguida, rode o comando correspondente, como JEV Codex ou JEV Claude. A chave pode ser obtida pelo OpenRouter, Vercel AI Gateway ou TypeSafe, que na gravação exigia convite. 0:32

Como acompanhar quais requisições estão sendo encaminhadas ao JEV?

Use o comando com a opção --dashboard para abrir um painel que mostra quais requisições estão indo para o JEV e quais seguem para o modelo principal, além de informações como tokens, latência e confiança. 1:32

Como o gateway tenta reduzir o uso de tokens?

A proposta é usar o JEV para identificar a ferramenta adequada e acrescentar essa informação à nova requisição enviada ao modelo principal. Assim, o modelo pode gastar menos raciocínio para decidir qual ferramenta chamar. 5:44

O uso do JEV Gateway pode afetar o cache do modelo?

O vídeo aponta que alterações no histórico de conversa podem invalidar o cache e elevar os custos. A hipótese do projeto é que o gateway não altera o histórico: ele acrescenta informação somente à nova requisição, preservando o cache. Ainda assim, o projeto está em alfa e esse comportamento continua sendo validado. 4:11

Quais resultados o benchmark apresentou para correção de bugs?

Os resultados variaram por modelo. No GPT-6 Astra, o teste apontou 57% menos tokens de saída e 39% menos tempo; no GPT-5.6 Sol, 57% menos tokens de saída e 40% menos tokens de entrada. O vídeo também observou resultados diferentes para outros modelos, então a economia não foi uniforme. 9:19

Quais modelos se destacaram na criação de novas funcionalidades?

O Fable 5.1 teve bons resultados, com menos tokens de saída e entrada, menos requisições e menor tempo. O GPT-5.6 Sol e o GPT-5.6 Luna também apresentaram reduções. Já Opus 5 e Sonnet 5 tiveram resultados piores nessa tarefa com a configuração atual do gateway. 12:26

🔒 Unlock Premium Features

Access to Chat is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Mindmap is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Translation is a premium feature. Upgrade now to unlock unlimited studying tools.

Get unlimited summaries, Q&A, transcripts and more with Pro

Upgrade to Pro

Suggestions

🔒 Unlock Premium Features

Access to AI Suggestions is a premium feature. Upgrade now to unlock unlimited studying tools.