RSS
菜单

本地运行大模型选显卡,怎样按模型、上下文长度和并发估算需求?

本地运行大模型选显卡,怎样按模型、上下文长度和并发估算需求?除了显存,内存与部署方式会在哪些情况下影响体验?

下载推广海报

圈内讨论推广海报

《本地运行大模型选显卡,怎样按模型、上下文长度和并发估算需求?》完整推广海报
一起交流

全部回复 0

分享经验,让问题更进一步

讨论,从你的观点开始

还没有回复,欢迎补充经验或分享不同的思路。