硬件成本对比云 llm 已经没法比了，但是看了一眼二手市场 mac mini 依然高居不下
这是一个专门讨论 idea 的地方。
每个人的时间，资源是有限的，有的时候你或许能够想到很多 idea，但是由于现实的限制，却并不是所有的 idea 都能够成为现实。
那这个时候，不妨可以把那些 idea 分享出来，启发别人。
每个人的时间，资源是有限的，有的时候你或许能够想到很多 idea，但是由于现实的限制，却并不是所有的 idea 都能够成为现实。
那这个时候，不妨可以把那些 idea 分享出来，启发别人。
 |
1
qazwsxkevin 10h 4m ago
其实你应该反边界思考，云 LLM 做不到的需求，还是很大的。
|
 |
2
crocoBaby OP  1
@qazwsxkevin 除了 nsfw 没想到别的了
|
 |
3
xjoker 9h 19m ago via iPhone
隐私部署还是要的
比如人事部 财务部 资料不能外泄 |
 |
6
EdwardKot 7h 29m ago via iPhone
最近也确实有此疑问，但是我还是部署了 asr 、ocr 、35B-A3B ，有些小钱能省（但是主要是手头现有的内存还算大，如果是新买专门用于本地部署的肯定不会）
|
 |
7
xing7673 7h 27m ago
mac mini 价格高早就不是本地 llm 需求驱动了，2-3 月还是，但是 4 月后就绝对不是了。
|
 |
10
slowman 5h 57m ago
回到大型机时代了
|
 |
13
YaakovZiv 4h 55m ago
私有化部署，目前的接触比较多的是两份财务统计的场景。医院信息科的测试场景。
|
 |
16
magichan 3h 59m ago
数据安全性在很多公司具有一票否决权，
就像 5 楼说的，数据泄密是很难被证明的， 而且很多公司要求的不是泄密后有赔付，而是不泄密。 |
Select Language