V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  zhyim  ›  全部回复第 2 页 / 共 9 页
回复总数  174
1  2  3  4  5  6  7  8  9  
2025 年 3 月 4 日
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@weiming 能支持多少并发啊,我用的 GPUStack 里面那个 vllm
2025 年 3 月 4 日
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@weiming awq 推理速度特别慢,只有 6t/s
2025 年 3 月 3 日
回复了 han654 创建的主题 Apple Apple tv 7 代 配什么电视捏?
小米 s65 miniled
2025 年 3 月 3 日
回复了 omz 创建的主题 Apple M4 Mac mini 仅售 2992 元,这让 M2 大幅贬值
在哪看到 2992 ?我 88vip 没有啊
用 cherrystudio 了,那玩意老是连不上
2025 年 2 月 27 日
回复了 CodeUU 创建的主题 iPhone 哪里能买到 17.0 系统的 15ProMax,巨魔用习惯了,回不去了
找本地的二手贩子找找看,咸鱼上基本都是传家宝
2025 年 2 月 24 日
回复了 Jayleonc 创建的主题 MacBook Pro 月薪 1.4w 的程序员,应该升级 Mac 吗?
说了这么多就是想给自己找个理由买,买吧,早买早享受
2025 年 2 月 16 日
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@dayeye2006199 也是不支持 deepseek2 ,我下载的别人的量化模型,单 gguf
2025 年 2 月 16 日
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@raycool 是的,用 llamacpp 和 ollama 都能成功,就是并发不行
2025 年 2 月 10 日
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@snowkylin 是 80G 版本的,Q8 的不一定能跑起来,刚把模型下载完。。。
2025 年 2 月 7 日
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
8 张 H100 和 2T 内存能跑完整版的 R1 吗? CPU 好像是 192 核的不知道啥型号
2025 年 2 月 7 日
回复了 HOU 创建的主题 Apple M1 Pro Sequoia 蓝牙连接 Keychron K3 Max 断联严重
@KentY 非常有用
1  2  3  4  5  6  7  8  9  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   1593 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 51ms · UTC 16:31 · PVG 00:31 · LAX 08:31 · JFK 11:31
♥ Do have faith in what you're doing.