Science & Technology

a OpenAI cortou 80% do preço

by Lucas Montano

✨ Principais Tópicos

Queda de Preços em IA
- A OpenAI anunciou uma redução de até 80% nos preços de suas APIs, o que contrasta com a expectativa de aumento de preços no setor.
- A Meta também reduziu significativamente o valor de seus tokens.
Otimizações Técnicas do GPT 5.6 Sol
- O modelo GPT 5.6 Sol reescreveu o kernel de GPU, resultando em uma redução de 20% nos custos de servidor.
- Introdução do modo "Sol Fast", que é 2,5% mais rápido, mas duas vezes mais caro.
Estratégias de Custo e Eficiência
- A OpenAI está implementando melhorias que não dependem de novos dados, mas sim de otimizações de software.
- A importância do balanceamento de carga e da distribuição eficiente de solicitações para reduzir custos operacionais.
Concorrência com Modelos Chineses
- Modelos chineses como Kim e GLM estão se aproximando da eficiência dos modelos da OpenAI, mas a um custo menor.
- A competição global está forçando melhorias e inovações no setor.
Implementações Práticas e Aprendizados
- O autor compartilha suas experiências em otimizar o uso de modelos de IA em seu projeto, incluindo auditoria de roteamento e criação de benchmarks internos.
- A importância de automatizar testes de modelos para garantir a qualidade das respostas.

📚 Principais Lições

Eficiência é FundamentalEm um cenário de recursos limitados, otimizações de software podem levar a reduções significativas de custo e aumento de eficiência.
A Competição Impulsiona InovaçõesA pressão de modelos concorrentes, especialmente de mercados emergentes, pode levar a melhorias que beneficiam todos os usuários.
A Importância do Monitoramento e AjustesMonitorar o desempenho e ajustar as estratégias de uso de modelos de IA é crucial para maximizar a eficiência e reduzir custos.
Aprendizado ContínuoCompartilhar e aprender com as inovações de outros pode ajudar a melhorar produtos e serviços no campo da inteligência artificial.

🧠 Conclusão

O vídeo destaca a importância das otimizações técnicas e da concorrência no setor de inteligência artificial, mostrando como essas dinâmicas podem beneficiar os usuários finais através de preços mais baixos e serviços mais eficientes.

Lucas Montano LucasMontano Lucas Montana Montano

Transcript excerpt

0:00 parou, já parou a pensar que tá todo mundo esperando, né, o preço das inteligências artificiais subirem pra gente comemorar juntos a bolha explodindo, mas as notícias que a gente vê saindo são o contrário, o preço caindo. Essa semana eu já falei, por exemplo, da meta, né, cortando 90 e poucos por do valor dos seus tokens. E agora nós temos aqui a Open AI, cara, fazendo basicamente o maior corte já feito pela empresa. Dia 30 de julho, a Open Ai baixou o preço da PI em até 80%.

0:31 E todo mundo tá agora discutindo a mesma coisa, né? Guerra de preço, pressão da Antropic, entprise reclamando de custo. E é tudo verdade. Só que dias antes desse corte, a Open publicou um segundo post muito interessante que eu vou ver aqui para vocês agora e é muito mais técnico também que poucos leram sobre como o GPT 5.6 Sol recreveu e otimizou o kernel deles em production. Esse vídeo tá sendo patrocinado pela UVP, é a maior escola de investimentos do Brasil. Se tu

1:02 quer investir no Brasil e no mundo e construir patrimônio, confere o link que tá aqui na descrição. E é isso que a gente quer ver, cara. A gente quer ver ganho de eficiência. Basicamente o que o Sol fez aqui é reescrever o kernel de GPU da própria infraestrutura que serve o modelo sozinho. Isso por si só derrubou em 20% o custo de servidor. Então nesse caso, possivelmente, né, esse corte de gasto não é uma jogada de marketing. É a primeira vez que a gente tem um ganho de modelo melhorando o modelo chegando no teu cartão de

🔒 The full, searchable transcript is available with Pro.

Suggestions