deepfacelab中文网

 找回密码
 立即注册
查看: 496|回复: 4

分享一个可以本地部署的"ChatGPT"

[复制链接]

8

主题

63

帖子

2454

积分

初级丹圣

Rank: 8Rank: 8

积分
2454
 楼主| 发表于 4 天前 | 显示全部楼层 |阅读模式
星级打分
  • 1
  • 2
  • 3
  • 4
  • 5
平均分:NAN  参与人数:0  我的评分:未评
由清华大学开发的中英双语对话模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。ChatGLM-6B 使用了和 ChatGLM 相同的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答


使用方法:

1.下载网盘中的三个压缩包,解压到同一目录下

j1.png

2.然后根据显存大小,选择对应的bat运行

j2.png

3.用浏览器打开 http://127.0.0.1:7860 就可以对话了,效果如下:

j3.jpg

链接有效性检测:https://pan.baidu.com/s/1DUe4NHmQf1qcYQxKqwUhTQ
回复

使用道具 举报

1

主题

37

帖子

404

积分

初级丹师

Rank: 3Rank: 3

积分
404
发表于 4 天前 | 显示全部楼层
wg123 发表于 2023-3-16 11:34
和https://www.bilibili.com/video/BV1E24y1u7Go/?spm_id_from=333.337.search-card.all.click 秋叶发的一 ...

一样的,就是秋叶的包拿来卖
回复 支持 2 反对 0

使用道具 举报

2

主题

23

帖子

205

积分

初级丹师

Rank: 3Rank: 3

积分
205
发表于 4 天前 | 显示全部楼层
https://www.bilibili.com/video/B ... arch-card.all.click 秋叶发的一样的吗,一样的我就不买了

评分

参与人数 1贡献 +1 收起 理由
suifeng + 1 赞一个!感谢分享。。。

查看全部评分

回复 支持 1 反对 0

使用道具 举报

17

主题

197

帖子

1190

积分

初级丹圣

Rank: 8Rank: 8

积分
1190
发表于 3 天前 | 显示全部楼层
是封装的么?
回复 支持 反对

使用道具 举报

3

主题

12

帖子

96

积分

高级丹童

Rank: 2

积分
96
发表于 前天 16:53 | 显示全部楼层
我之前另外一个号也是blbl上转过来卖,号司马玩意的给我封了永久
回复 支持 反对

使用道具 举报

QQ|Archiver|手机版|小黑屋|deepfacelab中文网 |网站地图

GMT+8, 2023-3-20 17:34 , Processed in 0.052389 second(s), 42 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表