Mixtral
-
倍受好评的 Mixtral 8x7B MoE 模型发布了论文
虽然模型效果和商用无法比，但在开源里确实很好 它可以在免费的 Google Colab T4 上运行！ \o/ 受到 Mistralai/Mixtral-8x7B-v0.1 架构的启发。 论文地址： https://arxiv.org/pdf/2401.04088.pdf 模型： https://huggingface.co/mlabonne/phixtral-2x2_8
虽然模型效果和商用无法比，但在开源里确实很好 它可以在免费的 Google Colab T4 上运行！ \o/ 受到 Mistralai/Mixtral-8x7B-v0.1 架构的启发。 论文地址： https://arxiv.org/pdf/2401.04088.pdf 模型： https://huggingface.co/mlabonne/phixtral-2x2_8
