Amazon impulsa desarrollo de chip de IA para reducir dependencia de Nvidia

Conclusiones Clave

• Amazon desarrolla chips de IA Trainium 2 para reducir dependencia de Nvidia.
• Los gastos de capital de Amazon se prevé que aumenten de $48.4 mil millones a $75 mil millones en 2024.

Amazon está desarrollando nuevos chips de inteligencia artificial para aumentar los rendimientos de sus inversiones en semiconductores y reducir la dependencia de Nvidia, según informó el Financial Times.

La compañía planea lanzar ampliamente su chip de entrenamiento de IA ‘Trainium 2’ el próximo mes.

El desarrollo del chip está liderado por Annapurna Labs, que Amazon adquirió en 2015 por $350 millones.

Trainium 2 actualmente está siendo probado por Anthropic, que ha recibido $4 mil millones en respaldo de Amazon, junto con Databricks, Deutsche Telekom, Ricoh y Stockmark.

«Queremos ser absolutamente el mejor lugar para ejecutar Nvidia,» dijo Dave Brown, vicepresidente de servicios de cómputo y redes en AWS. «Pero al mismo tiempo, creemos que es saludable tener una alternativa.»

Amazon informa que sus chips de IA Inferentia son un 40% más económicos para generar respuestas de modelos de IA.

Brown enfatizó las implicaciones de costos, indicando que ahorrar un 40% en $1,000 puede ser mínimo, pero ahorrar un 40% en decenas de millones de dólares hace una gran diferencia.

La compañía espera gastos de capital de alrededor de $75 mil millones en 2024, principalmente en infraestructura tecnológica, frente a los $48.4 mil millones en 2023. El CEO Andy Jassy indicó que es probable que los gastos sean mayores en 2025.

Rami Sinno, director de ingeniería de Annapurna, explicó que no se trata solo del chip, sino de todo el sistema.

El enfoque de Amazon implica construir todo, desde obleas de silicio hasta bastidores de servidores, todo respaldado por software y arquitectura propios.

Sinno agregó que escalar este proceso es extremadamente desafiante y que muy pocas compañías pueden lograrlo.

A pesar de estos esfuerzos, el impacto de Amazon en el dominio de Nvidia en chips de IA sigue siendo limitado.

Nvidia reportó ingresos de $26.3 mil millones en chips de IA para centros de datos en su segundo trimestre fiscal de 2024, igualando los ingresos de toda la división de AWS de Amazon para el mismo período.