V2EX › coefu 的所有回复 › 第 1 页 / 共 73 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 73

❮

❯

1 天前

回复了 qwzhang01 创建的主题 › 程序员 › 做模型训练、蒸馏门槛高吗

"简单描述一个我的判断，针对很对垂直细分领域的模型训练、微调、蒸馏，以及端侧模型的推理应该会有很多真实场景。"

你这个判断不成立，over 。

你先搞清楚参数和智能的关系先，在 ANN 基础上的泛 transformer/mamba 架构，都是一份参数一份智能。端侧参数少，有个毛的场景，你不会以为像 shell 的命令拼出 shell 脚本一样，能把多个小参数搭积木搭出大效果？不存在的。

1 天前

回复了 sentinelK 创建的主题 › Local LLM › strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

你这个资源，可以尝试一下 https://huggingface.co/FINAL-Bench/POCKET-Darwin-180B-GGUF

按照 card 里面吹的，已经非常强悍了，但是查了一下，这是个韩国 team ，所以，置信度要打折扣了。😂

1 天前

量化之后的能力，是看往哪边侧重的使用了。量化也只能往某种方向保留原本能力，舍弃部分别的能力。

IQ3_XXS 主要是保 stem 这一块的综合能力，主要是在 AIME ，GPQA-D 这两个核心 benchmark 和 BF16 对齐，这一块的能力实际上就是大家能感受到的所谓的智能密度。

其实主要还是 GPQA-D ，90 分是一个分水岭，90 分之后每提升 1 分，都能指导前一个阶段的工作，发现前一个阶段留的 bug 。

2 天前

回复了 blackantt 创建的主题 › 程序员 › 为什么 google 在 AI 编程模型方面落后了呢？印象中， google 无所不能，集中了全球顶尖的人才，也不缺钱，怎么在 AI 编程方面老是处于追赶的地位呢？

三哥上位了，鸡犬升天。连 Jeff dean 这种级别的元老都出走了。

2 天前

回复了 riceball 创建的主题 › 程序员 › Cordis 的坑与账-DeepSeek Harness 运行时拿它当底座

@riceball you win.

2 天前

回复了 qclown 创建的主题 › 职场话题 › 裸辞三个月：貌似要结束地球 online 了

还是要找个女人，能解决大部分问题。

2 天前

回复了 riceball 创建的主题 › 程序员 › Cordis 的坑与账-DeepSeek Harness 运行时拿它当底座

@riceball 草台班子这个揶揄，以前我很狂，可能也会这么嘴炮。但是自己真正做事之后，发现知易行难。能搞到钱搭起一个草台班子都已经是千难万难了。

2 天前

回复了 riceball 创建的主题 › 程序员 › Cordis 的坑与账-DeepSeek Harness 运行时拿它当底座

@riceball 那说明你还不够懒，😂。我当然是直接用 dsh ，我一共就搞了 2 个插件，一个 searxng 联网搜索，一个 hindsight 记忆。

除了每次升级要重新 build ，我觉得都还好，有时候确实有 bug ，但是一想到免费的，还要什么自行车，忍忍也能接受了。

2 天前

回复了 xueshi 创建的主题 › 随想 › AI 有沒有可能真的产生意识呢？

2026.9.17
The error theory of LLM consciousness: there is no evidence that standard LLMs are conscious （ https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/abs/error-theory-of-llm-consciousness-there-is-no-evidence-that-standard-llms-are-conscious/4ACC4077D57FBE5B2B9B3C773622D092?utm_source=chatgpt.com ）

2025.10.28
There is no such thing as conscious artificial intelligence （ https://www.nature.com/articles/s41599-025-05868-8 ）

2 天前

回复了 riceball 创建的主题 › 程序员 › Cordis 的坑与账-DeepSeek Harness 运行时拿它当底座

@riceball 我从 v0.1.0 开始用的，也没有你说的全是坑这么不堪。

3 天前

回复了 riceball 创建的主题 › 程序员 › Cordis 的坑与账-DeepSeek Harness 运行时拿它当底座

你可能不懂大部分人的需求，其实就是自己懒有能力也不想花时间造轮子，就想有个有能力的大厂开源轮子，一键起用，就这么简单。

至于它底层的坑，对比之前没有用的来说，无所谓的，哪个东西没有点瑕疵，所以才有一个成语叫，瑕不掩瑜。

3 天前

回复了 soulflysimple123 创建的主题 › OpenAI › （震惊瘫坐）数学界大地震， openai 公布 722 篇数学论文

陶哲轩的那个看法还是有见地的。

提问题，理解问题的答案，还是要掌握到人手里的。人类要是连提问题的资格都丢失的话，不知道还有什么意义。

3 天前

回复了 edp58162 创建的主题 › 问与答 › 学习 AI 量化，做股票分析的朋友看一下，太可怕了

你连量化的毛都没摸到。

4 天前

回复了 codeyung 创建的主题 › 问与答 › 香港仓库管理或日本永居如何选择，请 V 友们给点想法

一看就是没踩过坑的，谋生之道永远不要和亲戚挂钩，自己的亲兄弟都能生变，何况是妻兄弟。

6 天前

回复了 ok168168 创建的主题 › 职场话题 › 有几个问题一直想问问大家~

1,融合到社会方方面面里去，开馆子，路边摊，进厂，卖保险，卖房。。。
2 ，都是一波流，一两年之后还存不存在都是问题
3 ，融合到社会方方面面里去，回到 1

6 天前

回复了 hrasky 创建的主题 › 程序员 › 还有人说这波 Personal AI Agent 是伪需求？

不依赖中心化厂商的 Personal AI Agent 是真需求，被中心化厂商收割的 Personal AI Agent 是伪需求。

围绕 cloud api 黑盒的各种 application 都是伪需求，各个中心化厂商互相竞争的黑盒态是半伪需求，只有数据以及 token 用量完全在用户侧可以被掌控的 personal agent application 才是真需求。但这是站在用户角度，如果是站在提供者角度，那还是伪需求，你不能让用户在你面前裸到一无是处了还收费，用户不是傻子。

6 天前

回复了 missx 创建的主题 › OpenAI › 求大家推荐一点自学 AI 的网站

取决于你怎么认知你自己 context 里的 “AI” 这个名词的概念。

如果是你认为你理解的“AI” 是 ML ，那么从基础的经典 ML 开始，到 DL ，RL ，DRL ，漫长的基础，浩瀚的方向，基本上不会再有耐心能坚持完了。

如果你理解的“AI” 是 LLM + harness ，并且侧重点在 harness ，那么，可能还能从工程角度往底层钻一钻，有点认知提升。但是碰到 LLM 的时候就会因为缺少庞大的基础知识而感到困惑无助，因为当前的 LLM 是上面那条路线上极致的综合。

所以，我觉得，以当前的局面，能从零开始夯实基础地理解学习动手实验，如果不是脱产去大学重修，基本上不用动手了。自己乐呵乐呵就行了。

1 2 3 4 5 6 7 8 9 10 ... 73

❮

❯