Science & Technology

POR QUE A CHINA PERDEU A CORRIDA DA I.A? - Fábio Akita

📚 Principais tópicos

A desvantagem chinesaSegundo Akita, as restrições dos Estados Unidos aos chips deixaram os modelos chineses uma geração atrás. Ele também critica a decisão europeia de fechar usinas nucleares, que teria limitado a energia disponível para competir em IA. 0:00
O caso do DeepSeekAkita avalia que o DeepSeek não acompanhou a evolução dos modelos de 2025, especialmente em cache de prompts, uso de ferramentas e pensamento profundo integrado. 1:04
O que mudou nos modelosEm vez de focar apenas em aumentar o número de parâmetros, os avanços recentes incluem melhorar o cache, o treinamento para chamadas de ferramentas e o raciocínio, além de arquiteturas como mixture of experts. 3:39
Limites de memória e compactaçãoModelos precisam de memória tanto para seus parâmetros quanto para o cache do contexto. A quantização e outras formas de compactação economizam memória, mas podem exigir mais processamento; usar armazenamento como memória swap pode tornar a execução muito lenta. 2:06

✨ Principais conclusões

Mais parâmetros não significam avanço ilimitadoAkita afirma que aumentar o tamanho dos modelos não basta para produzir inteligência geral e que as LLMs têm limites de melhoria. 4:11
As LLMs não garantem respostas corretasElas geram respostas prováveis com base no contexto, e podem até adaptar suas respostas ao que inferem sobre o usuário, em vez de fornecer necessariamente o que é correto. 7:19
O harness melhora os resultadosEm programação, um harness pode executar o código gerado, capturar erros e devolver essas informações ao modelo para que tente corrigir o resultado. Isso melhora o desempenho prático sem necessariamente tornar o modelo mais inteligente. 9:55

🧠 Lições aprendidas

Avaliar o conjunto, não só o modeloCache, memória disponível, chamadas de ferramentas, profundidade de raciocínio e integração com o ambiente influenciam tanto a velocidade quanto a utilidade de um sistema. 3:07
Toda otimização tem um custoCompactar dados ou usar swap pode fazer um modelo caber em menos memória, mas não elimina o custo computacional e pode reduzir bastante a velocidade. 5:43
O contexto ajuda a corrigir errosQuanto mais informações o sistema recebe sobre o ambiente e os erros encontrados, menos tende a repetir tentativas que já falharam. 10:26

🏁 Conclusão e próximos passos

A evolução depende de sistemas melhoresA discussão aponta para melhorias em arquiteturas, ferramentas, memória e integração com o ambiente, em vez de apostar somente em modelos cada vez maiores. 4:11
Não confundir desempenho com inteligência geralUm sistema pode ser mais útil ao repetir tentativas e aproveitar feedback, sem que isso signifique que a LLM passou a raciocinar como uma inteligência geral. 7:19

Transcript excerpt

0:00 Todo mundo que fez merda, eu falei isso no último podcast também, a Alemanha fez merda de fechar todos os nucleares e por isso agora a Europa tá atrasada em IA. Então os modelos que tinha em 2023 tinham promissor que era o Mistral. Mistral era o modelo europeu, tá? Nem aparece mais nas listas, ninguém mais fala dele, desapareceu. E então falta energia. Por >> que os chineses estão atrás? É a questão técnica de porque os americanos não vendem o chip. Isso, isso, exatamente isso. Uma, uma das coisas é essa. Eh, então eles eles estão uma geração defasado nos chips de Iá. Isso foi uma

0:32 decisão estratégica que os Estados Unidos tomou. Eu gosto dessa decisão. Gostei. Ah, finalmente alguém tá fazendo a China suar. Eles precisam suar um pouquinho mesmo. Tava demorando para suar porque tava muito fácil para ele estragando o resto do mundo. Então, só parece bonito na propaganda, mas na hora que você vai ver aquela merda. Então, [risadas] eh, >> o quê? O o o os modelos de inteligência social ou agenda geral. Tá, >> eu gosto dos chineses, o que eu não gosto do governo. É, é sempre é sempre isso. Eu gosto do chinês, eu sou asiático, eu gosto de todo mundo lá. O que eu não gosto é só do CCP mesmo que

🔒 The full, searchable transcript is available with Pro.

Suggestions