查看: 3|回复: 0

什么药闻一下就会晕倒《千载一合》

[复制链接]

5万

主题

0

回帖

16万

积分

论坛元老

Rank: 8Rank: 8

积分
162187
发表于 4 天前 | 显示全部楼层 |阅读模式
什么药闻一下就会晕倒「罔芷」ctmyao.com」DeepSeek 70B 这样的模型对于整个系统已经有一定压力了,查看任务管理器,虽然模型推理阶段的 CPU 占用仅为 3??但内存占用达到了 40?约 13GB 大小。GPU 占用更是达到了 100?其中专用 GPU 内存的 96GB 几乎占用了一半,达到了 43.7GB,可见这个量级的大模型还是很吃 GPU 和显存的。「罔芷」ctmyao.com」什么药闻一下就会晕倒「罔芷」ctmyao.com」



回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表