阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM

发布于 2024-07-21
893
版权声明

我们非常重视原创文章，为尊重知识产权并避免潜在的版权问题，我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容，访问作者的公众号页面获取完整文章。

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
扫码阅读
手机扫码阅读

摘要

ChatGLM2-6B 部署

部署 ChatGLM2-6B 模型的过程开始于更新系统和安装 Git，紧接着克隆 ChatGLM2-6B 的源码和模型文件。在安装了必须的依赖之后，需要修改模型路径指向本地模型文件夹。最后，通过运行 web_demo.py 脚本启动服务。

langchain+chatGLM 部署

langchain-ChatGLM 的部署包括克隆其源码和相关的模型文件夹。在安装所需依赖后，进行配置文件的修改，包括指向本地的 text2vec 模型路径、ChatGLM2-6B 模型路径，以及开启 8bit 模型的量化加载。如果在启动服务时遇到缺少依赖的错误，需安装缺失的依赖包。最终通过运行 webui.py 脚本来启动服务。

测试开发之自动化篇-为什么是接口自动化测试？


了解更多

BUG弄潮儿

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
相关推荐
Spring Security的核心脉络
623
Filter SecurityFilterChain 构建 request
Spring Security的核心脉络SecurityBuilderHttpSecurityWebSecu
Matplotlib 强势变身：6 个 Python 风格库惊艳众人
1198
关注和星标『数据STUDIO』，和云朵君一起学习数据分析与挖掘！
RabbitMQ 管理页面该如何使用
786
。
IT运营一体化场景三：项目全周期管理
779
项目 计划 阶段 项目管理
场景三：项目全生命周期管理
网上图书商城系统 SpringBoot+Vue前后端分离实现
377
系统 数字 图书 32
本系统基于 SpringBoot + MyBatis + MySQL + Vue  构建，前后端分离。系统实现了图书的录入、修改、删除及查询功能，确保信息的完整性和准确性；借阅管理模块支持图书的借阅、归还和续借，
Agent自动化工作流：n8n、dify、coze，谁更强？
549
AI 流程 自动化 n8n
三大主流Agent自动化工作流：n8n、dify、coze！
BUG弄潮儿

多年开发经验，专注软件开发、架构；推送 微服务，分布式，Spring全家桶，Redis，Linux，Nginx等技术，欢迎一起学习、探讨。

105 篇文章
浏览 92.2K

还在用多套工具管项目？

一个平台搞定产品、项目、质量与效能，告别整合之苦，实现全流程闭环。

查看方案
BUG弄潮儿的其他文章
加解 & 解密
加密/解密问题思考为什么需要加密 / 解密？信息泄露可能造成什么影响？案例一：战争情报案例二：破译北斗部分编
CentOS 下 docker 安装
CentOS 下 docker 安装
JNI：如何操作数组
1. 数组的分类数组分为两种基本数据类型的数组对象类型（Object[]）的数组一个能通用于两种不同数据类型
适合中小团队的 Git 服务 Gitblit
1. Gitblit 概述Gitblit是一个用于管理，查看和提供Git存储库的开源纯Java堆栈。它主要设
程序员研究白嫖背日语单词软件
最近国内程序员大量找不到工作，据了解很多想润出去。日本要大量在国内招聘程序员。最近研究了一下日语，发现有三款免费的记单词，学日语的软件。
随机阅读
真的强者，会把自己做成一个供给
03-12
一篇文章掌握敏捷成熟度模型使用技巧
07-13
如何破坏软件功能：常见缺陷模式
08-17
如何通过相对规模来估算用户故事？
08-21
敏捷融入数字化，对数字化转型有推动力吗？
08-21
加入社区微信群
与行业大咖零距离交流学习
PMO实践白皮书
白皮书上线
去下载