Science & Technology

Como usar JEV no Codex e Claude Code (e gastar menos tokens)

by Vini - AI Coders Academy

Share:

✨ Principais Tópicos

  • Introdução ao JV (Jav Gateway)Explicação sobre o que é o JV e como ele pode ser utilizado em ferramentas como Codex e Cloud Code.
  • Instalação do JVPassos simples para instalar o JV usando npm.
  • Funcionalidade do JVComo o JV pode otimizar o uso de tokens em workflows de agentes de IA.
  • Demonstração de UsoExemplos práticos de como o JV pode ser utilizado em tarefas de desenvolvimento de software.
  • Benchmarking e ResultadosComparação de desempenho entre diferentes modelos de IA ao usar o JV.

📚 Principais Conclusões

  • Eficiência do JVO uso do JV pode resultar em economias significativas de tokens e tempo em tarefas de desenvolvimento, especialmente em workflows agênticos.
  • Importância do CashO JV deve ser utilizado com cuidado para não afetar o cash de requisições, o que pode aumentar os custos.
  • Resultados de BenchmarkO JV demonstrou economias de até 57% em tokens de output e 39% em tempo em tarefas específicas, dependendo do modelo utilizado.

🧠 Lições Aprendidas

  • Validação ContínuaO projeto está em fase alfa e requer testes e validações contínuas para melhorar sua eficiência e funcionalidade.
  • Colaboração da ComunidadeO vídeo incentiva a participação da comunidade para contribuir com melhorias e soluções para o JV.
  • TransparênciaO apresentador enfatiza a importância de manter a transparência sobre os resultados e desafios enfrentados no desenvolvimento do JV.

🏁 Próximos Passos

  • Live InterativaO apresentador convida os espectadores para uma live onde serão discutidos mais detalhes sobre o uso do JV em workflows agênticos.
  • ContribuiçõesIncentivo para que os desenvolvedores contribuam com o projeto, testando e propondo melhorias.

Este resumo fornece uma visão geral do conteúdo abordado no vídeo, destacando a importância do JV e suas aplicações práticas no desenvolvimento de software.

Transcript excerpt

0:00 Como que usa o JV dentro do Codex e dentro do Cloud Code? Essa foi uma pergunta que eu recebi para caramba lá dentro do Twitter, desde quando eu comecei a falar do JV. Foi um dos primeiros canais BR a fazer o vídeo sobre o assunto também, se não o primeiro. E naturalmente as pessoas ficaram na dúvida, cara, beleza, é um modelo novo, mas como é que usa esse trem? Nesse vídeo eu vou te mostrar um jeito de você usar o JV dentro do Codex, dentro do cloud Code, dentro do Endcraft e outras ferramentas através do Jav Gateway. E vou te mostrar porque isso faz sentido e quando talvez não faça

0:32 sentido. Bora nessa. Para instalar é muito simples, literalmente três passos. Você vai instalar com npm installço gateway. Uma vez que tá instalado, aí ele vai te disponibilizar já os comandos conforme os harness que a gente já tiver dando suporte. Aqui você vai ver que eu adicionei o codex e cloud, mas já tiveram outras pessoas que contribuíram aqui. Adicionando suporte ao Open Code, adicionou suporte ao Gemini. Já tem um camarada aqui que já abriu uma porrada de PR que eu tenho que revisar hoje, tá aqui com a gente contribuindo também.

🔒 The full, searchable transcript is available with Pro.

🔒 Unlock Premium Features

This is a premium feature. Upgrade to unlock unlimited Q&A, transcripts, mindmaps, and translations.

Questions & Answers

Common questions about this video

O que é o JV e como ele pode ser utilizado dentro do Codex e Cloud Code?

O JV é um modelo que pode ser utilizado como um gateway para otimizar requisições em ferramentas como Codex, Cloud Code, Endcraft, entre outras. Ele ajuda a reduzir o consumo de tokens e melhora a performance ao decidir quando usar o JV para fazer reasoning ou encaminhar direto para o provedor de LM.

Como instalar o JV e quais passos são necessários?

A instalação do JV é simples e feita em três passos: primeiro, usar o comando 'npm install gateway'. Depois, configurar a chave do JV, que pode ser obtida no Open Hunter, Versal AI Gateway ou Typeesafe. Por fim, rodar comandos específicos como 'Jav Codex' ou 'Jav Cloud' para usar o JV com diferentes ferramentas.

Quais são os benefícios de usar o JV em workflows de agentes de IA?

O uso do JV em workflows de agentes de IA pode economizar tokens, reduzir o tempo de processamento e diminuir o número de requisições feitas ao modelo. Isso é especialmente útil em tarefas de reasoning, classificação de ferramentas e criação de novas features, tornando o processo mais eficiente.

O que é o dashboard do JV e como ele ajuda no acompanhamento das requisições?

O dashboard do JV mostra informações em tempo real sobre as requisições, incluindo tokens gastos, modelos utilizados, status, latência, confiança média e se a requisição foi direcionada ao JV ou ao provedor direto. Isso permite monitorar o desempenho e otimizar o uso do modelo.

Quais foram os resultados do benchmark ao usar o JV em diferentes modelos de IA?

O benchmark mostrou que o uso do JV resultou em economia de tokens, redução de requisições e menor tempo de processamento em vários modelos, como GPT-6 Astra, GPT-5.6 Sol, Luna, entre outros. Por exemplo, em GPT-6 Astra, houve uma economia de 39% no tempo e 57% nos tokens de output.

Por que o uso do JV pode não fazer sentido em alguns casos, como com modelos mais avançados?

Em modelos mais avançados, como GPT-5.6 Luna, o uso do JV pode aumentar o tempo de processamento e não gerar economia significativa de tokens, tornando sua implementação menos vantajosa. É importante avaliar o contexto e o modelo utilizado antes de aplicar o JV.

Qual é o foco do projeto Jgon e como a comunidade pode contribuir?

O projeto Jgon é criado por brasileiros para o mundo, focado em melhorar a eficiência do uso de IA com soluções criativas. A comunidade pode contribuir abrindo PRs, testando ideias, ajudando na validação de soluções e participando do desenvolvimento para criar um case de sucesso no Brasil na área de inteligência artificial.

Quando o uso do JV é recomendado para criar novas features?

O uso do JV é recomendado especialmente com modelos como o Fable 5.1, que demonstraram economia significativa de tokens e menor tempo de execução ao criar novas features. Modelos mais antigos ou com resultados negativos, como OPO 5 e Sonet 5, atualmente não valem a pena para esse propósito.

🔒 Unlock Premium Features

Access to Chat is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Mindmap is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Translation is a premium feature. Upgrade now to unlock unlimited studying tools.

Get unlimited summaries, Q&A, transcripts and more with Pro

Upgrade to Pro

Suggestions

🔒 Unlock Premium Features

Access to AI Suggestions is a premium feature. Upgrade now to unlock unlimited studying tools.