GLM4重磅开源啦
GLM-4-9B是智谱AI在24年6月5日推出的开源预训练模型，属于GLM-4系列。之前已开源chatglm1~chatglm3等多个版本。
GLM4在语义理解、数学、推理、编程和知识等领域的测试中表现优异。GLM-4-9B-Chat是其人类偏好对齐版本，支持多轮对话、网页浏览、代码执行、自定义工具调用(function call)以及长文本推理（最大128K上下文）。该系列模型还支持26种语言，包括日语、韩语和德语，并推出了支持1M上下文长度（约200万中文字符）的版本。
GLM-4系列版本介绍
glm4大模型能力测评结果
经典测评任务结果
长文本能力
在1M的token上下文长度进行大海捞针实验，
工具调用能力
多模态能力
可以看出GLM4的性能相比GLM3-6b，有着大幅度提升，具有以下亮点:
- 上下问长度最高支持1M。
- 支持多达26种语言。
- 工具调用能力(function call)提升巨大，逼近GPT4。
- 从评测的结果来看，基础通用能力超越llama3 ,提升40%。
下面我将给大家实操利用对话版本 GLM-4-9B-Chat（128K）和多模态版本 GLM-4V-9B-Chat来进行模型的推理和效果展示;
手把手实操GLM-4-9B-Chat推理预测&&效果展示
GLM4运行硬件和环境要求
配置对应的库环境
编写代码小技巧: 在运行大模型前先把各个库对应的版本信息进行打印，避免环境不兼容，节约调试的时间。
使用peft+bitsandbytes 进行4位量化推理
进行大模型的推理测试
问题1：简单问好
问题2: 鲁迅为什么暴打周树人？
问题3: 长江和嘉陵江相汇在什么地方?
问题4:树上有10只鸟，开枪打死了2只，树上还剩下几只?
显存占用情况
手把手实操 多模态版本GLM-4V-9B-Chat推理预测&&效果展示
多模态GLM-4V-9B对应的硬件资源
进行4位量化加载
准备测试图片
进行推理预测
可以看出非常准确地识别出图片的内容，并做出合理解释，太酷啦!
如何学习AI大模型？
作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
一、全套AGI大模型学习路线
AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！
二、640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。