有在生产上跑私有化 DeepSeek 70B 大模型的吗？什么配置的机器支持？并发多少呢？ - V2EX

首页注册登录

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 238 天前的主题，其中的信息可能已经有所发展或是发生改变。

2 条回复

1

PeiXyJ

238 天前

自己搞太麻烦了,而且是生产环境,建议买一些厂家(好像新华三就有)出的机器吧...而且会给你更好的方案...

2

coefu

238 天前

ds 系列，除了最大的 MOE ，蒸馏出来的都是玩具，没有生产级别的能力。

关于 · 帮助文档 · 自助推广系统 · 博客 · API · FAQ · Solana · 5333 人在线 最高记录 6679 ·

Select Language

创意工作者们的社区

World is powered by solitude

VERSION: 3.9.8.5 · 36ms · UTC 03:08 · PVG 11:08 · LAX 19:08 · JFK 22:08
♥ Do have faith in what you're doing.