书生・浦语
书生・浦语（InternLM）是由上海人工智能实验室和 SenseTime（贡献相等）与香港中文大学、复旦大学和上海交通大学合作开发的多语言大型语言模型。
InternLM 是一种具有 104B 参数的多语言基础语言模型。InternLM 在具有 1.6T 令牌的大型语料库上经过多阶段渐进过程进行预训练，然后进行微调以符合人类偏好。还开发了一个名为 Uniscale-LLM 的训练系统，用于高效的大型语言模型训练。
对多项基准的评估表明，InternLM 在知识理解、阅读理解、数学和编码等多个方面都达到了最先进的性能。凭借如此全面的能力，InternLM 在不借助外部工具的情况下，在包括 MMLU、AGIEval、C-Eval 和 GAOKAO-Bench 在内的综合考试中取得了出色的成绩。
在这些基准测试中，InternLM 不仅明显优于开源模型，但与 ChatGPT 相比也获得了更优越的性能。此外，InternLM 展示了对中文语言和中国文化的出色理解能力，这使其成为支持面向中文的语言应用程序的合适基础模型。
相关推荐
zidongtaichu: OPT（Omni-Perception Pre-Trainer）
紫东太初是 华为昇腾计算 携手 武汉人工智能研究院 、 中科院自动化所 基于昇腾昇思软硬件全栈打造...
标签:
人工智能
浏览次数: 25 2023-07-28
热门网站