您尚未登录。

楼主 # 2023-11-08 11:29:54

miuser
会员
注册时间: 2020-12-13
已发帖子: 18
积分: 308

一个基于ChatGLM-6B 的桌面对话环境一键整合包

这是一个基于ChatGLM项目开发的本地聊天对话生成软件,支持中英文实时聊天,流模式,参数调整,量化/多卡模式启动 等基本功能。

intro3.gif

项目开源地址
https://gitee.com/miuser00/chatglm-6b

一键整合包下载地址
https://pan.baidu.com/s/1vcZWyQD4L4-o8b7Js8riBA?pwd=xjyo

如果使用中有任何问题,欢迎加QQ群:750817170一起研究

目前ChatGLM3已于前日正式发布在官方主页,ChatGLM3具有更快的推理速度,更精确的回答,并支持原生工具链,作者正在365996学习,待调通后会更新尽快提供给大家,敬请期待...也欢迎您一同加入ChatGLM3的开发队伍。

离线

#1 2023-11-08 11:32:05

哇酷小二
管理员
所在地: 你猜
注册时间: 2020-04-22
已发帖子: 3,379
积分: 1902
个人网站

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

看到里面有个cuda,没有显卡能跑吗?





离线

楼主 #2 2023-11-08 11:34:25

miuser
会员
注册时间: 2020-12-13
已发帖子: 18
积分: 308

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

哇酷小二 说:

看到里面有个cuda,没有显卡能跑吗?

理论可以,有CPU模式。

CPU主频3G以上,至少4核心,32G内存,如果是CPU模式的话,我建议24核起步,不然会被急死

最近编辑记录 miuser (2023-11-08 11:37:33)

离线

#3 2023-11-08 11:58:11

memory
会员
注册时间: 2021-08-11
已发帖子: 278
积分: 253

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

请问楼主,这个demo是完全在本地跑吗?

离线

楼主 #4 2023-11-08 12:01:59

miuser
会员
注册时间: 2020-12-13
已发帖子: 18
积分: 308

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

memory 说:

请问楼主,这个demo是完全在本地跑吗?

对,纯本地

离线

#5 2023-11-09 09:45:07

musich
会员
注册时间: 2018-04-17
已发帖子: 237
积分: 269

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

这个有点厉害

离线

#6 2023-11-09 14:27:22

rufer
会员
注册时间: 2023-11-09
已发帖子: 1
积分: 1

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

看起来挺厉害的,不知道电脑要多少钱?

离线

#7 2023-11-30 11:20:39

xk100
会员
注册时间: 2018-12-13
已发帖子: 73
积分: 61.5

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

我跑了。CPU跑太慢了。90块买了一片P106-100的矿渣,可以跑。但是还是有点小慢。

离线

页脚

工信部备案:粤ICP备20025096号 Powered by FluxBB

感谢为中文互联网持续输出优质内容的各位老铁们。 QQ: 516333132, 微信(wechat): whycan_cn (哇酷网/挖坑网/填坑网) service@whycan.cn