计算机体系结构
《CSAPP》
Cache Hit/Miss、流水线(Pipeline)、SIMD指令集(AVX/Neon)
大模型本质上就是巨大的矩阵乘法,不懂内存和算力调度,一切优化都是空谈。
All articles on this blog are licensed under CC BY-NC-SA 4.0 unless otherwise stated.
Comments
《CSAPP》
Cache Hit/Miss、流水线(Pipeline)、SIMD指令集(AVX/Neon)
大模型本质上就是巨大的矩阵乘法,不懂内存和算力调度,一切优化都是空谈。