楼主 # 2023-11-08 11:29:54 分享评论
- miuser
- 会员
- 注册时间： 2020-12-13
- 已发帖子： 19
- 积分： 309
一个基于ChatGLM-6B 的桌面对话环境一键整合包
这是一个基于ChatGLM项目开发的本地聊天对话生成软件，支持中英文实时聊天，流模式，参数调整，量化/多卡模式启动 等基本功能。
项目开源地址
https://gitee.com/miuser00/chatglm-6b
一键整合包下载地址
https://pan.baidu.com/s/1vcZWyQD4L4-o8b7Js8riBA?pwd=xjyo
如果使用中有任何问题，欢迎加QQ群：750817170一起研究
目前ChatGLM3已于前日正式发布在官方主页，ChatGLM3具有更快的推理速度，更精确的回答，并支持原生工具链，作者正在365996学习，待调通后会更新尽快提供给大家，敬请期待...也欢迎您一同加入ChatGLM3的开发队伍。
离线
楼主 #2 2023-11-08 11:34:25 分享评论
- miuser
- 会员
- 注册时间： 2020-12-13
- 已发帖子： 19
- 积分： 309
Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包
哇酷小二 说：
看到里面有个cuda，没有显卡能跑吗？
理论可以，有CPU模式。
CPU主频3G以上，至少4核心，32G内存，如果是CPU模式的话，我建议24核起步，不然会被急死
最近编辑记录 miuser (2023-11-08 11:37:33)
离线
#3 2023-11-08 11:58:11 分享评论
- memory
- 会员
- 注册时间： 2021-08-11
- 已发帖子： 446
- 积分： 422
Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包
请问楼主，这个demo是完全在本地跑吗？
离线
楼主 #4 2023-11-08 12:01:59 分享评论
- miuser
- 会员
- 注册时间： 2020-12-13
- 已发帖子： 19
- 积分： 309
Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包
memory 说：
请问楼主，这个demo是完全在本地跑吗？
对，纯本地
离线
#5 2023-11-09 09:45:07 分享评论
- musich
- 会员
- 注册时间： 2018-04-17
- 已发帖子： 249
- 积分： 281
Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包
这个有点厉害
离线
#6 2023-11-09 14:27:22 分享评论
- rufer
- 会员
- 注册时间： 2023-11-09
- 已发帖子： 1
- 积分： 1
Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包
看起来挺厉害的，不知道电脑要多少钱？
离线
#7 2023-11-30 11:20:39 分享评论
- xk100
- 会员
- 注册时间： 2018-12-13
- 已发帖子： 73
- 积分： 56.5
Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包
我跑了。CPU跑太慢了。90块买了一片P106-100的矿渣，可以跑。但是还是有点小慢。
离线
感谢为中文互联网持续输出优质内容的各位老铁们。
QQ: 516333132, 微信(wechat): whycan_cn (哇酷网/挖坑网/填坑网) service@whycan.cn