V2EX › sentinelK 的所有回复 › 第 1 页 / 共 92 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 2 3 4 5 6 7 8 9 10 ... 92

❮

❯

1 天前

回复了 donkeylucky 创建的主题 › 程序员 › 1w token 每秒

瓶颈跟性能没什么关系。
核心还是上下文长度、注意力机制、上下文捕获能力，以及最终的概率泛化能力上。

1 天前

回复了 YanSeven 创建的主题 › 程序员 › 在现在及以后的 llm 时代，计算机/软件的技术能力和知识是否有类似“虽然你不是翻译但是学点英文是好的”、“虽然你从事不了金融行业但是有金融知识是好的”、“虽然当不了医生，但是有点生物医药的知识肯定是好的”，这样的“行业外地位？”

其实一直都是。

只是之前有一帮人比较自命不凡，不认为其他行业的是“开发”。
只有知道为什么 java 的 int 5 == Integer 5 为真的人才配叫开发。

1 天前

回复了 sn0wdr1am 创建的主题 › 程序员 › AI 和 rea 让你们的胆子大起来了。我感觉不久的将来，会有人说：

我理解 rea 其实和之前的 photocraft 一样，其实是“行为艺术”属性比较大。

他再次让人们意识到了，按照目前的法律，基本无法应对 AI 洗稿的问题。
之前所有的针对 AI 洗稿的（无论是肖像、声音还是绘画、音乐、产品）最终要么不了了之，要么使用一个无法量化的主观判断来解决。

2 天前

回复了 sentinelK 创建的主题 › Local LLM › 你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s

@catazshadow 我是开的 262144 的上下文长度，一般来讲到 220k 的时候已经触发压缩了，所以没见过严重的注意力漂移

2 天前

回复了 MagicalCarl 创建的主题 › 程序员 › 莫非 opencode 真的自建的？

不是他自建的，和 orcarouter 合作的。

2 天前

回复了 sentinelK 创建的主题 › Local LLM › 你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s

@catazshadow 如果从跑分角度讲，大概提升 5%，从困惑度角度讲降低 50%。

实操中，比 IQ3_XXS 更少出现雷霆思考。代价就是对于 48 vram + 64ram 来讲，考虑到会话缓存，nvfp4 还是有点太极限了。

3 天前

回复了 YanSeven 创建的主题 › 程序员 › 26 年是关键的一年，感觉 26 年很多码农的思维从“我的水平 llm 还不配取代我”到“别挣扎了，不管做到什么程度 llm 终将取代我”

我的理解是，只要企业没有让你随身带摄像头和录音笔，相较而言其实就没那么悲观。

因为本质上来讲，如果你的任务能直接被信息化内容直接量化交接。那其实即便 AI 不替代你，下一个卷王也会替代你的。

商业的核心永远不再纸上。

4 天前

回复了 scoutL 创建的主题 › 程序员 › 塞班机时代也有很多不错的像素 rpg 网游，智能机时代为什么不延续这些 IP

你在这扣哧几个月甚至一两年，做一个游戏，了不起了卖 48 。

人家隔壁随便搞个纸片人能换无数个 648 ，要你你怎么选。

4 天前

回复了 scoutL 创建的主题 › 程序员 › 塞班机时代也有很多不错的像素 rpg 网游，智能机时代为什么不延续这些 IP

现在的人的游戏节奏变了。手游在普遍朝着更懒、更低精力的角度演进。

目前的环境之下，好好做游戏 ≠ 能赚钱。
做第九艺术不如搞多巴胺过山车。

4 天前

回复了 jinsongzhaocn 创建的主题 › Local LLM › 本地大模型：统一内存(UMA)和显存+内存(分层卸载), 统一内存 UMA 才是普通用户的未来！

楼主这是怕手里的统一内存设备被 strata 冲烂，出来唱多吗 XDD

4 天前

回复了 kk0x03 创建的主题 › 程序员 › 重复操作的事情变成 skill 让 AI 去干，但是发现 AI Coding 本身已经开始变得重复劳动了

也就是说，对于 LLM 的泛用性来讲，瓶颈这几年其实没变，本质上就是上下文的合理获取。

只不过之前是直观、垂直领域的上下文如何获取，我们通过 ReAcT 配合模型后训练解决了。

那么横向领域的、非客观的、甚至主观故意曲解、隐藏的背景信息究竟该如何获取，是下一步的问题。

4 天前

回复了 kk0x03 创建的主题 › 程序员 › 重复操作的事情变成 skill 让 AI 去干，但是发现 AI Coding 本身已经开始变得重复劳动了

现在限制全面 AI 化的掣肘，本质上就是人类组织结构中的很多非信息化的部分了。
因为目前的公司的组织结构是按照人类的能力和任务来设计的。这就导致很大一部分信息量其实是不信息化，不“上系统”的。

比如领导说，小王，你们组的产品线要抓紧，功能和工期要“衡量斟酌”一下。
这个“抓紧” 导致的 “衡量斟酌” 背后的实际含义，如果用上下文计，最起码 500K token 。得从领导喜好、内部政治、团队背景乃至公司历史盘古开天辟地开始讲。

然而这些目前大模型都无从而知，也就无法给你最好的建议。

4 天前

回复了 tab16360 创建的主题 › 推广 › uu 远程是真的很吃流量

UU 远程和 parsec 一样，是动态 fps ，会随着你 UI 的变化、当前焦点进程类型而变动 fps 帧率，从而节省流量。

5 天前

回复了 wsseo 创建的主题 › 程序员 › AI 这么牛，为什么大厂的一些东西还这么多 bug，这么难用

1 、验收标准难以量化，harness 尤甚。
2 、目前的 harness 都太大而全，逻辑边界太长，没法穷举所有场景。

harness 这种场景最明显，基本逻辑简单(ReAcT)，但是实际实践就会发现，实在是太繁复了。几十个工具交杂在一起很难 debug 。再加上引擎是不确定性的，且还要支持 BYOK ，最终就是一团乱麻。

5 天前

回复了 blackantt 创建的主题 › 程序员 › REA 来了，即便是 C/S 结构，难道不会根据 client 的界面去给它配 server 侧代码吗？

REA 是传统意义上的逆向。相当于是已编译程序的拆解乃至破解。是拆解内存地址逻辑的。
你说的逆向是 feature 层面的，属于逆向设计。

思路不同，逆向设计这种场景用的更多也是事实。

5 天前

回复了 illegals0001 创建的主题 › OpenAI › Pro 200 选的 GPT-6 Pro/Astra，实际时不时被降到 GPT-5.6 Luna， OpenAI 客服来回五轮，最后给我一封模板信

省流：

你进入了一个餐馆，餐馆需要预储值。
然后，你进去有没有座位，上了座位吃什么，能不能吃饱，什么时候吃饱，最终吃了多少钱，都跟你没关系，餐馆帮你决定。

6 天前

回复了 YanSeven 创建的主题 › 职场话题 › llm 时代，架构师和普通大头兵的在专业上的区别在哪

目前的使用 AI 的思路是 AI 靠统计学概率来推定一个局部最优的结果，然后去试图验证这个结果。验证成功>结束，验证失败>尝试另外一个局部最优解。

所以本质上，越难验证的职业，就越难被 AI 替代。

这个难验证有几个可能性。
1 、验证、试错的成本极大。
2 、没有一个合理的量化指标能够精准表达验证效果。
3 、没有一个已知的验证方法。或者因为一些主、客观原因导致无法验证。

架构师这个职位我个人理解属于 1 、2 之间。

一个技术选型、架构是否适用于当前产品，其实是一个非常复杂的问题。你很难靠一两句话就能说清楚。
但是一旦选型和架构与实际业务需求出现比较大的偏差，对于企业而言，代价又是不可承受的。

8 天前

回复了 lynn1su 创建的主题 › 程序员 › 有没有那种军事类大模型？我不用什么写代码很强的模型。我希望有那种诸葛亮类型的大模型，帮忙出谋划策，精通人情世故的那种。不是满口拍马屁的那种

AI 好用的前提，就是你得给他充足的上下文。也就是既有信息。
你问他张三为什么不爱我，一它不知道张三是谁，二它不知道你是谁，三它不知道你们之间发生了什么。
他怎么给你出谋划策

8 天前

回复了 Srande 创建的主题 › 职场话题 › 32 岁做啥啥失败，是不是该被斩杀了？

楼主说的这个我个人很有感触。我觉得这个事儿他有几层的理解。共勉。

1 、一件事做的好，不一定能赚钱。
2 、能赚钱的，不一定是好事、也不一定是因为做的好而赚钱。
3 、赚钱的路和做好一件事的路，其实本质是两条路，或多或少在方向上有个“夹角”。有的事儿夹角非常大，甚至是 180°。
4 、一个商业逻辑的表面，和其实际的核心，其实也是完全牛马不相及的两件事。

我的理解，本着匠人精神的心态去赚钱，成功率无限接近 0%。
想要深入某个领域赚钱，要先去了解赚钱的逻辑，然后再去寻找其中的机会和发挥的空间。而不是先发挥，再寻找商业逻辑。

个人拙见。

8 天前

回复了 sentinelK 创建的主题 › Local LLM › strata 极致优化指南（参数篇）64GB RAM + RTX pro 5000 48GB， IQ3_XXS 量化， prefill 4500t/s， decode 180t/s 同时缓存 5 个 262k 会话不重新 prefill

@jinsongzhaocn 按照官方“吹”的原话，是 IQ3_S 和全量几乎一致。IQ3_XXS 大概是 98.x%的一致性。

我的理解一致性比例相同理论上讲能力趋势也应该相同。
https://artificialanalysis.ai/ 上 qwen3.8-flash 是 40 分，27B 稠密是 34 分。

那么理论上讲一致性和困惑度与 3.8-flash-IQ3_XXS 相近的 27B-nvfp4 也应该遵循这个能力差距。至少应该不会逆转。

我个人是这么肤浅的理解。

1 2 3 4 5 6 7 8 9 10 ... 92

❮

❯