ふと、intelの最近入れたベクトル計算をllmに使えればいいんじゃねということに気づき、いまさら少し調べてみた。amx入りのsapphire rapidsが昨年あたりから出回ってきて、理論値で10倍以上性能が上がるらしい。実際の性能は、数倍向上くらい。次のemerld rapidsも出始め、ちょっと1、2割いいらしい。