Science & Technology

Former Intel CEO: Why This is the Best Time to Build Hardware

by a16z

Share:

📚 Temas principales

  • De técnico a diseñador de chipsPat Gelsinger cuenta cómo entró en Intel a los 18 años y pasó de técnico a participar en el diseño del 386 y dirigir el del 486. En esa época, el equipo también creó herramientas y métodos que contribuyeron a sentar las bases de la industria moderna de EDA. 2:06
  • La IA en el diseño de chipsLa IA puede acelerar el diseño de lógica y marcar el comienzo de una nueva era, pero no resuelve los desafíos analógicos ni los cuellos de botella posteriores. Fabricar, empaquetar y desplegar un chip puede llevar mucho más que diseñarlo. 7:23
  • La fabricación y la memoria como límitesGelsinger destaca los largos plazos de fabricación y empaquetado, la escasez de ancho de banda de memoria y las dificultades de alimentación y refrigeración. Describe HBM como una memoria imperfecta, aunque hoy sea la mejor opción disponible para muchas cargas de trabajo de IA. 9:53
  • La evolución de las arquitecturas de IAAunque hay numerosos aceleradores especializados, Gelsinger espera que el mercado se consolide. Los cambios en los modelos, los costes de llevar chips a escala y la necesidad de integrar hardware y software favorecerían menos plataformas dominantes. 14:33
  • Nuevas memorias y empaquetado tridimensionalTras décadas sin una nueva tecnología de memoria de gran impacto, Gelsinger ve condiciones para que aparezcan innovaciones, impulsadas por la demanda de IA y nuevas inversiones. Aun así, considera que las pilas de memoria moderadas son más realistas que las de muchas capas, debido a los retos de rendimiento y rendimiento de fabricación. 22:48
  • Óptica, redes y energíaGelsinger prevé que la óptica sustituya gradualmente al cobre para las conexiones de entrada y salida, aunque no necesariamente dentro del complejo central de cómputo y memoria. También advierte que la disponibilidad de energía puede limitar la expansión de los centros de datos y aboga por innovar en generación, conversión y refrigeración. 34:46
  • Virtualización para agentesUna infraestructura pensada para agentes necesitaría abstraer y gestionar recursos, rendimiento y seguridad, además de permitir que las personas definan políticas y supervisen los sistemas. Gelsinger plantea que la virtualización podría adoptar nuevas formas para servir a esos agentes. 49:48

✨ Conclusiones clave

  • Los cuellos de botella se desplazanCuando la IA facilita una etapa del desarrollo, las limitaciones pasan a otras áreas: fabricación, memoria, energía, empaquetado y despliegue a escala. 8:49
  • La escala favorece la consolidaciónLa diversidad de chips puede persistir, pero mantener muchas arquitecturas implica grandes inversiones, complejidad operativa y trabajo de software; por eso, Gelsinger espera una reducción del número de plataformas ganadoras. 17:40
  • La capacidad energética limita el crecimientoGelsinger sostiene que, en la era digital y de la IA, la capacidad energética equivale a la capacidad económica. Sin energía suficiente, algunos proyectos de centros de datos podrían no cumplir sus compromisos. 43:34

🧠 Lecciones aprendidas

  • Diseñar es solo una parte del procesoUn chip puede diseñarse en unos meses y, aun así, tardar mucho más en fabricarse, integrarse en un paquete avanzado y quedar listo para su uso a escala. 9:53
  • La especialización tiene costesLos aceleradores optimizados para tareas concretas pueden perder flexibilidad y complicar la gestión de los centros de datos cuando cambian las cargas de trabajo. 15:04
  • Las limitaciones físicas exigen soluciones integralesMás cómputo implica resolver simultáneamente la memoria, las conexiones, la alimentación eléctrica y la disipación térmica. 29:03

🏁 Conclusión y próximos pasos

  • Una nueva oportunidad para el hardwareGelsinger considera que las necesidades de IA están reabriendo oportunidades de innovación en semiconductores, memoria, óptica, energía y refrigeración. 47:13
  • Crear una capa de gestión para agentesLa oportunidad de una «VMware para agentes» consistiría en hacer que los agentes sean seguros, eficientes y fáciles de administrar, mientras las personas establecen las políticas y supervisan su funcionamiento. 51:21

Transcript excerpt

0:00 In a AI digital age, energy capacity equals economic capacity. Why build a new data center and buy the million GPUs if I can't power them? You're going to see more and more defaults happening on many of those data center projects cuz the energy won't be there. >> Whenever you have the technology to make something easy, that means the bottleneck moves somewhere else. >> Nothing's a chip anymore. It's a rack. It took me 3 months to design it, but it's 9 months until I can actually start to use it. Exactly. How many major new memories have we had over the last 30

0:30 years? >> Zero. >> Zero. >> Memory innovation for the first time in 30 years is nigh upon us. I declared the death of copper about 25 years ago. Eventually, I'll be right for all of us hardware guys. This is like renaissance in front of us. [clears throat] AI inference accelerator chips. And I'm sure I don't even know them all. Why are you guys funding so many of those? >> You funded your fair share, too. >> Historically, there have not been a 100 competing processor vendors in any industry ever. This is a temporary thing. It'll converge back to a view. >> I see it as a

🔒 The full, searchable transcript is available with Pro.

🔒 Unlock Premium Features

This is a premium feature. Upgrade to unlock unlimited Q&A, transcripts, mindmaps, and translations.

Questions & Answers

Common questions about this video

¿Por qué Pat Gelsinger cree que la IA marca el comienzo de una nueva era en el diseño de chips?

Porque las herramientas de IA ya pueden encargarse de muchas funciones lógicas del diseño, mientras unos pocos expertos orientan el proceso. Gelsinger compara este cambio con la llegada de las técnicas modernas de EDA durante el desarrollo del 486, aunque señala que el diseño analógico sigue siendo difícil de automatizar. 07:46

Si la IA acelera el diseño de chips, ¿qué cuellos de botella siguen retrasando su llegada al mercado?

La fabricación del silicio, el empaquetado avanzado en 3D y la integración del chip en una solución a escala de rack. Aunque diseñar un chip pueda llevar tres meses, Gelsinger calcula que podrían pasar nueve meses antes de poder usarlo; también menciona la necesidad de reducir el costo y el tiempo de los prototipos. 09:53

¿Por qué Pat Gelsinger espera que disminuya el número de chips aceleradores de IA?

Cree que la especialización extrema no será sostenible porque las cargas de trabajo y los modelos evolucionan, y porque fabricar, financiar y desplegar chips a gran escala es difícil. Además, los grandes proveedores podrían seleccionar algunas arquitecturas e invertir en el software necesario para aprovecharlas. 14:33

¿Por qué describe Gelsinger la memoria HBM como «horrible»?

Aunque es la mejor opción disponible, tiene baja densidad de bits y limitaciones de ancho de banda, potencia y temperatura. Como la IA exige mucho movimiento de datos, considera que mejorar la memoria es uno de los principales desafíos de la industria. 11:56

¿Qué limita la altura de los chips apilados, según Gelsinger?

Al apilar más capas, es cada vez más difícil mantener rendimientos de fabricación altos: un defecto en una capa puede arruinar el conjunto. Por eso considera más realistas las pilas de tres a cinco capas, y prevé que dos o cuatro capas de memoria podrían ser un punto óptimo. 27:29

¿Por qué Gelsinger ve la capacidad energética como un límite para la expansión de la IA?

Construir centros de datos y comprar GPU no sirve si no hay energía suficiente para operarlos. Gelsinger advierte que la escasez podría frenar proyectos, y propone aumentar la capacidad de generación y mejorar la infraestructura eléctrica, incluida la distribución de energía en centros de datos. 43:34

¿Qué podría ser un «VMware para agentes»?

Sería una capa para gestionar agentes de IA y abstraer la infraestructura que usan, con funciones de seguridad, rendimiento, migración y administración. Las personas podrían definir políticas y límites, mientras la plataforma estaría diseñada para que los agentes operen de forma eficaz. 49:48

🔒 Unlock Premium Features

Access to Chat is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Mindmap is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Translation is a premium feature. Upgrade now to unlock unlimited studying tools.

Get unlimited summaries, Q&A, transcripts and more with Pro

Upgrade to Pro

Suggestions

🔒 Unlock Premium Features

Access to AI Suggestions is a premium feature. Upgrade now to unlock unlimited studying tools.