Colossal-AI
-
Colossal-AI团队开源了SwiftInfer,提升了大模型推理性能46%
Colossal-AI团队开源了SwiftInfer,提升了大模型推理性能46%,为多轮对话场景提供高效可靠的落地方案。 项目地址: https://github.com/hpcaitech/SwiftInfer
Colossal-AI团队开源了SwiftInfer,提升了大模型推理性能46%,为多轮对话场景提供高效可靠的落地方案。 项目地址: https://github.com/hpcaitech/SwiftInfer