ChatGLM

ChatGLM官网

ChatGLM，清华技术，智谱AI开源的GLM系列的对话模型

网站服务：ai工具导航，ai大模型，Cha116;71;LM。

ChatGLM简介

ChatGLM-6B: An Open Bilingual Dialogue Language Model | 开源双语对话语言模型 – THUDM/ChatGLM-6B

ChatGLM官网，清华技术，智谱AI开源的GLM系列的对话模型

什么是ChatGLM?

ChatGLM 是智谱AI公司基于清华技术成果转化而开源的对话模型系列，支持中英两种语言。目前，该系列开源了规模为62亿参数的模型。这些模型在继承了GLM的优势基础上进行了架构优化，降低了部署和应用的门槛，使得大型模型可以在消费级显卡上进行推理应用。

ChatGLM官网: https://chatglm.cn/

github项目网址: (安装和使用教程请看官方介绍)

https://github.com/THUDM/ChatGLM-6B

从技术路线的角度来看，ChatGLM 实现了化学习人类对齐策略，使得生成的对话效果更加贴近人类的价值观。目前，它的能力域主要包括自我认知、提纲写作、案写作、邮件写作助手、信息抽取、角色扮演、评论比较、旅游建议等。此外，ChatGLM 还开发了一个正在内测的超大模型，参数规模达到了1300亿，这在当前的开源对话模型中属于较大规模。

ChatGLM 的开源为研究人员和开发者提供了一个大的工具，可以用于各种对话场景和应用。它的性能和规模使得它成为处理复杂对话任务和生成高质量对话的理想选择。随着ChatGLM的不断发展和改进，我们可以期待更多创和应用在对话系统域的实现。

详细介绍

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答，更多信息请参考我们的博客。

为了方便下游开发者针对自己的应用场景定制模型，我们同时实现了基于 P-Tuning v2 的高效参数微调方法 (使用指) ，INT4 量化级别下最低只需 7GB 显存即可启动微调。

想让 ChatGLM-6B 更符合你的应用场景？欢迎参与 Badcase 反馈计划。

---

ChatGLM-6B 开源模型旨在与开源社区一起推动大模型技术发展，恳请开发者和大家遵守开源协议，勿将开源模型和代码及基于开源项目产生的衍生物用于任何可能给国家和社会带来危害的用途以及用于任何未经过安全评估和备案的服务。目前，本项目团队未基于 ChatGLM-6B 开发任何应用，包括网页端、安卓、苹果 iOS 及 Windows App 等应用。

尽管模型在训练的各个阶段都尽力确保数据的合规性和准确性，但由于 ChatGLM-6B 模型规模较小，且模型受概率随机性因素影响，无法保证输出内容的准确性，且模型易被误导（详见局限性）。本项目不承担开源模型和代码导致的数据安全、舆情风险或发生任何模型被误导、滥用、传播、不当利用而产生的风险和责任。

使用方式

硬件需求

量化等级	最低 GPU 显存（推理）	最低 GPU 显存（高效参数微调）
FP16（无量化）	13 GB	14 GB
INT8	8 GB	9 GB
INT4	6 GB	7 GB

环境安装

使用 pip 安装依赖：pip install -r requirements.txt，其中 transformers 库版本推荐为 4.27.1，但理论上不低于 4.23.1 即可。

此外，如果需要在 cpu 上运行量化后的模型，还需要安装 gcc 与 openmp。多数 Linux 发行版默认已安装。对于 Windows ，可在安装 TDM-GCC 时勾选 openmp。 Windows 测试环境 gcc 版本为 TDM-GCC 10.3.0， Linux 为 gcc 11.3.0。在 MacOS 上请参考 Q1。

代码调用

可以通过如下代码调用 ChatGLM-6B 模型来生成对话：

>>> from transformers import AutoTokenizer， AutoModel
>>> tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b"， trust_remote_code=True)
>>> model = AutoModel.from_pretrained("THUDM/chatglm-6b"， trust_remote_code=True).half().cuda()
>>> model = model.eval()
>>> response， history = model.chat(tokenizer， "你好"， history=[])
>>> print(response)
你好👋!我是人工智能助手 ChatGLM-6B，很高兴见到你，欢迎问我任何问题。
>>> response， history = model.chat(tokenizer， "晚上睡不着应该怎么办"， history=history)
>>> print(response)
晚上睡不着可能会让你感到焦虑或不舒服，但以下是一些可以帮助你入睡的方法:

1. 制定规律的睡眠时间表:保持规律的睡眠时间表可以帮助你建立健康的睡眠习惯，使你更容易入睡。尽量在每天的相同时间上床，并在同一时间起床。
2. 创造一个舒适的睡眠环境:确保睡眠环境舒适，安静，黑暗且温度适宜。可以使用舒适的床上用品，并保持房间通风。
3. 放松身心:在睡前做些放松的活动，例如泡个热水澡，听些轻柔的音乐，阅读一些有趣的书籍等，有助于缓解紧张和焦虑，使你更容易入睡。
4. 避免饮用含有咖啡因的饮料:咖啡因是一种刺激性物质，会影响你的睡眠质量。尽量避免在睡前饮用含有咖啡因的饮料，例如咖啡，茶和可乐。
5. 避免在床上做与睡眠无关的事情:在床上做些与睡眠无关的事情，例如看电影，玩游戏或工作等，可能会干扰你的睡眠。
6. 尝试呼吸技巧:深呼吸是一种放松技巧，可以帮助你缓解紧张和焦虑，使你更容易入睡。试着慢慢吸气，保持几秒钟，然后缓慢呼气。

如果这些方法无法帮助你入睡，你可以考虑咨询医生或睡眠专家，寻求进一步的建议。

模型的实现仍然处在变动中。如果希望固定使用的模型实现以保证兼容性，可以在 from_pretrained 的调用中增加 revision="v1.1.0" 参数。v1.1.0 是当前最的版本号，完整的版本列表参见 Change Log。

从本地加载模型

以上代由 transformers 自动下载模型实现和参数。完整的模型实现可以在 Hugging Face Hub。如果你的网络环境较差，下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地，然后从本地加载。

从 Hugging Face Hub 下载模型需要先安装Git LFS，然后运行

git clone https://huggingface.co/THUDM/chatglm-6b

如果你从 Hugging Face Hub 上下载 checkpoint 的速度较慢，可以只下载模型实现

GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/THUDM/chatglm-6b

然后从这里手动下载模型参数件，并将下载的件替换到本地的 chatglm-6b 目录下。

将模型下载到本地之后，将以上代码中的 THUDM/chatglm-6b 替换为你本地的 chatglm-6b 件夹的路径，即可从本地加载模型。

Optional 模型的实现仍然处在变动中。如果希望固定使用的模型实现以保证兼容性，可以执行

git checkout v1.1.0

Demo & API

我们提供了一个基于 Gradio 的网页版 Demo 和一个命令行 Demo。使用时首先需要下载本仓库：

git clone https://github.com/THUDM/ChatGLM-6B
cd ChatGLM-6B

ChatGLM官网入口网址

https://github.com/THUDM/ChatGLM-6B

OpenI小编发现ChatGLM网站非常受用户欢迎，请访问ChatGLM网址入口试用。