qinbingchen's recent timeline updates
qinbingchen

qinbingchen

V2EX member #167141, joined on 2016-04-07 22:53:34 +08:00
Today's activity rank 13039
Per qinbingchen's settings, the topics list is hidden
Deals info, including closed deals, is not hidden
qinbingchen's recent replies
@yingqi7 这 大部分企业都用不起了
实在不行,就看看能不能脱敏非安全数据走公网了,toB 这里一直是卡点。
@kennylam777 我没指定 小模型没怎么玩过。就是先调研下大家,有没有私有化部署的经验案例
@94 不是呀 哈哈哈 这么像
@moonvstod 硬件预算不能太高了,不然这单没法做了,企业觉得都不划算啥的。5w 感觉都是顶了,能更便宜最好。而且能让企业并发来说几个人,还可以扛住。一般企业也就几百个人。
@drupal 看起来,您这边是企业部署用上了。
@twk93 大佬,就是中型企业 200 人规模的。 并发估计也不大,最多几个人。 您这边有实践么? 24G 跑 14B 的 Q4 。
@defa21312 企业内部真实部署么?跑的起来的。 硬件成本感觉最多 3w 吧
@kennylam777 R1 这都不是重点,就是内网部署,现在有没有能用的性价比的模型,企业实践过的,要是太贵了压根没人玩。
你有好办法了么?
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3277 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 11:24 · PVG 19:24 · LAX 04:24 · JFK 07:24
♥ Do have faith in what you're doing.