Silício para inferência de IA

Os chips de inferência executam modelos treinados em produção, em vez de treiná-los, e priorizam a taxa de processamento por watt em vez do desempenho máximo bruto. É um problema de projeto distinto do treinamento e atraiu projetistas de aceleradores personalizados, além dos fabricantes de chips já estabelecidos.

7 ações