百度发布最新基座模型 ERNIE 5.5 Flash Base:效率、开源、高性价比
11 月 5 日,百度正式开源最新基座模型文心 5.5 Flash Base(ERNIE 5.5 Flash Base)。模型采用 MoE 架构,总参数量 2800 亿,每个 Token 激活 140 亿参数,使用 33.5 万亿个 Token 完成预训练,预训练上下文长度最高达 128K,微调与推理阶段支持最长 100 万 Token 上下文。 据介绍,ERNIE 5.5 Flash Base 没有经过任何中...
免责声明:本站转载内容均标明来源,仅供学习交流使用,版权归原作者及原出处所有。如涉及版权问题,请联系站长处理。
评论交流(0)
登录后即可参与评论交流,立即登录 / 注册
还没有评论,来抢沙发~