ChatGLM 一款可以搭建专家知识库ai的开源项目


2023-04-25 14:57:44 •  86次阅读    评论
ChatGLM 一款可以搭建专家知识库ai的开源项目
开发语言:Python
操作系统: 跨平台
使用说明:

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答,更多信息请参考我们的博客。


为了方便下游开发者针对自己的应用场景定制模型,我们同时实现了基于 P-Tuning v2 的高效参数微调方法 (使用指南) ,INT4 量化级别下最低只需 7GB 显存即可启动微调。


不过,由于 ChatGLM-6B 的规模较小,目前已知其具有相当多的局限性,如事实性/数学逻辑错误,可能生成有害/有偏见内容,较弱的上下文能力,自我认知混乱,以及对英文指示生成与中文指示完全矛盾的内容。请大家在使用前了解这些问题,以免产生误解。更大的基于 1300 亿参数 GLM-130B 的 ChatGLM 正在内测开发中。

用户评论

危机的小懒虫
#1 ⋅ 12天前

很不错的开源项目。

更多精彩评论

危机的小懒虫

该源码的相关教程
该源码暂时没有相关可用教程 您可以选择贡献 +[协助补充]
有穹平台赞助商
暂无赞助商,如需成为赞助商可点击 此链接 了解。