Science & Technology

a OpenAI cortou 80% do preço

by Lucas Montano

📚 Principais tópicos

Redução de preçosA OpenAI reduziu preços de alguns modelos, especialmente os tiers de maior volume, enquanto manteve o preço do modelo mais potente. Também lançou o modo Fast, que promete até 2,5 vezes mais velocidade pelo dobro do preço. 1:33
Otimização de infraestruturaO vídeo destaca um post técnico da OpenAI sobre o modelo Sol reescrevendo kernels de GPU em Triton e Gluon, com uma redução de 20% no custo de servidores. 3:04
Decodificação especulativaUm modelo menor sugere os próximos tokens para que o modelo maior os valide, contribuindo para aumentar a eficiência da geração. 4:06
Eficiência em agentesO apresentador aborda técnicas como revelar ferramentas apenas quando necessárias, limitar o tamanho das respostas das ferramentas e manter o histórico append-only para favorecer o cache. 5:09
Balanceamento de cargaA OpenAI também otimizou o roteamento de solicitações entre regiões, instâncias e aceleradores, considerando carga, contexto e disponibilidade de cache. 8:15
Pressão competitivaModelos chineses de pesos abertos, como os da DeepSeek e da GLM, oferecem capacidades próximas às de modelos comerciais por uma fração do custo, aumentando a pressão por eficiência. 9:48

✨ Principais conclusões

Queda de custos por eficiênciaO apresentador argumenta que a redução de preços pode refletir ganhos técnicos reais, e não apenas uma estratégia de marketing. 1:02
Preços e créditosLuna e Terra ficaram mais baratos em determinados usos; o modo Fast pode consumir créditos mais rapidamente, então o apresentador recomenda reservar modelos mais econômicos para tarefas adequadas. 2:34
Otimizar cada etapaRoteamento, agendamento, kernels, cache e implementação do modelo podem produzir ganhos acumulados de eficiência. 7:44
Concorrência beneficia usuáriosSeja qual for a direção em que as empresas aprendam umas com as outras, a competição e as otimizações podem reduzir custos para quem usa os modelos. 10:50

🧠 Lições aprendidas

Exibir ferramentas sob demandaEm vez de incluir todas as ferramentas no prompt desde o início, um agente pode disponibilizar integrações apenas quando forem relevantes para a tarefa. 5:09
Preservar o cacheReescrever mensagens antigas a cada turno pode causar falhas de cache e elevar o custo de entrada; manter o histórico de forma append-only pode ajudar a evitar isso. 6:41
Medir qualidade e custoO apresentador descreve testes com documentos e perguntas específicas para comparar modelos e parâmetros, verificando se as respostas continuam corretas enquanto os custos diminuem. 11:52
Distribuir tarefas entre modelosEtapas como escolher ferramentas, analisar resultados e definir respostas podem usar modelos e configurações diferentes, conforme a necessidade. 12:23

🏁 Conclusão e próximos passos

Aplicar as otimizaçõesO apresentador pretende auditar o roteamento, reduzir respostas excessivas de ferramentas e testar configurações em benchmarks internos para baixar custos sem perder qualidade. 11:21
Aprender com os detalhes técnicosA mensagem final é que desenvolvedores podem adaptar práticas de eficiência divulgadas pelas empresas para melhorar seus próprios produtos de IA. 13:26

Lucas Montano LucasMontano Lucas Montana Montano

Transcript excerpt

0:00 parou, já parou a pensar que tá todo mundo esperando, né, o preço das inteligências artificiais subirem pra gente comemorar juntos a bolha explodindo, mas as notícias que a gente vê saindo são o contrário, o preço caindo. Essa semana eu já falei, por exemplo, da meta, né, cortando 90 e poucos por do valor dos seus tokens. E agora nós temos aqui a OpenAI, cara, fazendo basicamente o maior corte já feito pela empresa. Dia 30 de julho, a OpenAI baixou o preço da PI em até 80%.

0:31 E todo mundo tá agora discutindo a mesma coisa, né? Guerra de preço, pressão da Anthropic, enterprise reclamando de custo. E é tudo verdade. Só que dias antes desse corte, a OpenAI publicou um segundo post muito interessante que eu vou ver aqui para vocês agora e é muito mais técnico também que poucos leram sobre como o GPT 5.6 Sol recreveu e otimizou o kernel deles em production. Esse vídeo tá sendo patrocinado pela UVP, é a maior escola de investimentos do Brasil. Se tu

🔒 The full, searchable transcript is available with Pro.

Suggestions