360 智脑
-
360 开源了 360 智脑 7B(70 亿参数模型)支持 50 万字长文本输入
360 公司日前在 GitHub 上开源了 360 智脑 7B(70 亿参数模型)。360 智脑大模型采用 3.4 万亿 Tokens 的语料库训练,以中文、英文、代码为主,开放 4K、32K、360K 三种不同文本长度。360 表示,360K(约 50 万字)是当前国产开源模型文本长度最长的。 地址: https://github.com/Qihoo360/360zhinao