WhyCan Forum(哇酷开发者社区)

miuser

会员

注册时间： 2020-12-13

已发帖子： 19

积分： 309

一个基于ChatGLM-6B 的桌面对话环境一键整合包

这是一个基于ChatGLM项目开发的本地聊天对话生成软件，支持中英文实时聊天，流模式，参数调整，量化/多卡模式启动 等基本功能。

项目开源地址
https://gitee.com/miuser00/chatglm-6b

一键整合包下载地址
https://pan.baidu.com/s/1vcZWyQD4L4-o8b7Js8riBA?pwd=xjyo

如果使用中有任何问题，欢迎加QQ群：750817170一起研究

目前ChatGLM3已于前日正式发布在官方主页，ChatGLM3具有更快的推理速度，更精确的回答，并支持原生工具链，作者正在365996学习，待调通后会更新尽快提供给大家，敬请期待...也欢迎您一同加入ChatGLM3的开发队伍。

miuser

会员

注册时间： 2020-12-13

已发帖子： 19

积分： 309

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

看到里面有个cuda，没有显卡能跑吗？

理论可以，有CPU模式。

CPU主频3G以上，至少4核心，32G内存，如果是CPU模式的话，我建议24核起步，不然会被急死

最近编辑记录 miuser (2023-11-08 11:37:33)

miuser

会员

注册时间： 2020-12-13

已发帖子： 19

积分： 309

Re: 一个基于ChatGLM-6B 的桌面对话环境一键整合包

请问楼主，这个demo是完全在本地跑吗？

对，纯本地