ええ、それは実際にかなり鋭い観察です。深層学習の背後にある本当の働き者は何ですか？それは、大規模に実行されるGEMM行列乗算操作です。異なるアーキテクチャは異なる原子単位を使用します - 時には4x4ブロックを見ていることもあれば、別の時には4x4x4、そして中には256x256まで大きくなるものもあります。我々が実際に産業レベルで行っていることは、これらの操作に特化して調整された計算能力を大量生産しているということです。それが全体のバックボーンです。