阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM

发布于 2024-07-21
1019
版权声明

我们非常重视原创文章，为尊重知识产权并避免潜在的版权问题，我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容，访问作者的公众号页面获取完整文章。

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
扫码阅读
手机扫码阅读

摘要

ChatGLM2-6B 部署

部署 ChatGLM2-6B 模型的过程开始于更新系统和安装 Git，紧接着克隆 ChatGLM2-6B 的源码和模型文件。在安装了必须的依赖之后，需要修改模型路径指向本地模型文件夹。最后，通过运行 web_demo.py 脚本启动服务。

langchain+chatGLM 部署

langchain-ChatGLM 的部署包括克隆其源码和相关的模型文件夹。在安装所需依赖后，进行配置文件的修改，包括指向本地的 text2vec 模型路径、ChatGLM2-6B 模型路径，以及开启 8bit 模型的量化加载。如果在启动服务时遇到缺少依赖的错误，需安装缺失的依赖包。最终通过运行 webui.py 脚本来启动服务。

测试开发之接口篇-使用K6完成接口自动化测试


了解更多

BUG弄潮儿

查看原文：阿里云部署 ChatGLM2-6B 与 langchain+ChatGLM
文章来源：
BUG弄潮儿
扫码关注公众号
相关推荐
谷歌Bard：ChatGPT之外的第三选择
2199
Google 分享 内容 Bard
成年人不做选择题：既要ChatGPT，也要Claude ，还要 Bard。
用户故事的前世今生
1800
故事 用户 敏捷 实践
作为精益敏捷的基石之一，我们一起来了解一下用户故事方法的前世今生。
Hey, man, you break the build！Jenkins邮件你收到了吗？
2175
电子邮件 https < tr>
❝上一篇文章，我们提到了持续集成失败要立即修复。“反馈”是DevOps三要素之一的，那么流水线失败的通知邮件就算是其中一种反馈动作。
【SpringSecurity系列（十九）】Spring Security 中 CSRF 防御源码解析
1088
。
真实场景3：如何优雅实现后端接口统一返回对象，企业项目都是玩儿
676
message 异常 ExceptionHandler e.getMessage
目前主流开发方式都是前后端分离的，定义一种统一的返回格式，在前后端进行沟通时是非常有必要的，减少大家的沟通成本，大家基于这个约定去理解，出现问题能够快速定位。格式统一规范，也是减少联调挨骂的基本保障。
Python循环语句进阶：5个让你告别低效循环的高级技巧
247
循环 生成器 print 场景
Python循环语句编写常用的技巧
BUG弄潮儿

多年开发经验，专注软件开发、架构；推送 微服务，分布式，Spring全家桶，Redis，Linux，Nginx等技术，欢迎一起学习、探讨。

105 篇文章
浏览 104.9K

还在用多套工具管项目？

一个平台搞定产品、项目、质量与效能，告别整合之苦，实现全流程闭环。

查看方案
BUG弄潮儿的其他文章
JNI：操作字符串String
1. 在C/C++本地代码中创建Java的对象1.1 Java对象的创建使用 NewObject 方法使用函
企业DevOps之路：Jenkins 流水线
1. Pipeline 概述Pipeline 即流水线，是 jenkins2.X 的新特性，是 jenkin
SonarScanner有效检查代码质量
SonarScanner有效检查代码质量
一日一命令：find 命令详解
find 用来在指定目录下查找文件。任何位于参数之前的字符串都将被视为欲查找的目录名。如果使用该命令时，不设
适合中小团队的 Git 服务 Gitblit
1. Gitblit 概述Gitblit是一个用于管理，查看和提供Git存储库的开源纯Java堆栈。它主要设
随机阅读
你的企业，真正尊重人的工作价值吗？
08-22
敏捷教练需要懂多少技术？
07-13
《如何成为专家》，高手之上的更好选择
08-17
一文读懂责任分配矩阵，解决你80%的项目难题
08-21
敏捷史话（六）：也许他可以拯救你的代码 —— Robert C. Martin
08-21
加入社区微信群
与行业大咖零距离交流学习
PMO实践白皮书
白皮书上线
去下载