商汤异构混推实践

商汤大装置分享异构混推的创新实践与技术演进，旨在让 Token 生产更高效。该方案通过异构计算资源混合推理优化大模型推理效率。