Sí, esa es en realidad una observación bastante aguda. ¿El verdadero caballo de batalla detrás del aprendizaje profundo? Son esas operaciones de multiplicación de matrices GEMM ejecutándose a gran escala. Diferentes arquitecturas utilizan diferentes unidades atómicas: a veces se trata de bloques de 4x4, otras veces de 4x4x4, y algunas llegan a ser tan grandes como 256x256. Lo que realmente estamos haciendo a nivel industrial es producir en masa capacidad computacional específicamente ajustada para estas operaciones. Esa es la columna vertebral de todo.