letking

letking

V2EX member #133225, joined on 2015-08-16 20:27:33 +08:00
letking's recent replies
你这三个问题说实话很基础,都是背诵题不需要什么底层理解,这都答不上来你怎么判断出来水平很高的。

你们做 agent 方向,“这三个问题是业务里天天碰到的,成本、首字延迟、长上下文性能都有关系”,但无论你了解或不了解这三个问题,你都解决不了吧?你知道了 prefill 和 decode 的区别、KVCache 存的啥,又能优化什么?全都是调 api ,或者部署开源推理框架,你知道了这些难道就能把首字延迟降低了?
你们要是做 agent ,这些问题你们能用的上的只有怎么缓存 prompt 吧,无非也就是尽量保证前缀一致。可以说做 agent 都没什么可面的,ai 都能干的比人好。
Sep 23
Replied to a topic by Heylion › Jev › Jev 五子棋
很好地证明了 jev 有多弱,全是搜索算法在发力。
信息学竞赛需要深刻理解的是数据结构和算法,语言真不用学多深
卧槽还真行啊,试了下 python 也能用中文,牛逼
学兽医,宠物医院真的赚钱
大学里多数老师的教学水平确实不如 LLM 。
应该是有权利的吧,我们这边还禁止开放式厨房,如果厨房不封闭就停气。
直接基于现有的包管理工具分发 skill ,比如 npm 、pip 。他们本来就支持版本号、依赖管理、软件源等功能。
skill 本质上就是软件包配上说明文档,没有任何超出 python 或 nodejs 包覆盖的东西。
狗屎
我去所有医院都是直接说“只要西药,不要给我开中药”,目前没有遇到任何一个医生表示异议或拒绝的,都是很干脆的开西药。

说中药过敏、家里有的,我觉得真不用活这么累,尝试一次直接表达,不会有什么损失的。
说断人财路的,那你直接甩给医生 50 块钱得了。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2090 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 17ms · UTC 14:35 · PVG 22:35 · LAX 06:35 · JFK 09:35
♥ Do have faith in what you're doing.