Silicio para inferencia de IA

Los chips de inferencia ejecutan modelos ya entrenados en producción, en lugar de entrenarlos, y priorizan la capacidad de procesamiento por vatio sobre el rendimiento máximo bruto. Es un problema de diseño distinto al del entrenamiento y ha atraído a diseñadores de aceleradores personalizados, además de los proveedores de chips establecidos.

7 acciones