V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  nrtEBH  ›  全部回复第 7 页 / 共 76 页
回复总数  1514
1 ... 3  4  5  6  7  8  9  10  11  12 ... 76  
用中文路径不是不可以 但没有必要 英语还是计算机世界里的通用语言
后代是独立的个体啊 他怎么看你你改变不了
4 月 10 日
回复了 lerry 创建的主题 北京 北京七年
北京不欢迎外地人 不如换个地方重新开始
9 个月小朋友的话你出差家里要有 backup 不然这是最大的问题
4 月 10 日
回复了 Flowing 创建的主题 ☕Vibe Coding🤖 大家现在订阅哪个模型?
copilot 不折腾
4 月 10 日
回复了 unpay 创建的主题 问与答 豆包和 deepseek 最终会向个人收费,你们认为呢
免费的模型可能以后就是 gpt4o 水平了
顶级模型肯定不是免费的
4 月 10 日
回复了 ufan0 创建的主题 生活 通勤路上被和尚纠缠,应该如何应对?
你就是烂好人不懂拒绝才会被纠缠
4 月 8 日
回复了 jedeft 创建的主题 问与答 国外的 im,哪个国内用最顺畅?
没梯子你就老老实实呆在国内生态
不要有任何幻想
这年头搞个梯子又不是难事
没梯子你连 v2 都上不来好吧
4 月 8 日
回复了 clacf 创建的主题 教育 感觉中考五五分流,比高考还残酷
另外 “三是可预见的未来,也和大厂高薪无缘了。” 这个普通人就不要幻想金字塔的顶端了
切莫被我即世界给误导了
4 月 8 日
回复了 clacf 创建的主题 教育 感觉中考五五分流,比高考还残酷
早点去学手艺 不要浪费人生 我觉得挺好的
冷知识:义务教育就到初中为止 再往后就是选拔式教育了
4 月 7 日
回复了 echotriggle 创建的主题 职场话题 工作问题咨询,走还是留
会被裁员那就是假国企 既然不稳定还不如去多赚点钱
入金方便吗
4 月 7 日
回复了 wali77 创建的主题 Local LLM 有人用 mac studio 测试过 gemma4 31b 16 吗
M4 Max 64G + oMLX 0.3.1 gemma-4-31b-it-4bit-mlx 版本 没有清空内存顺手跑的

## Single Request Results

| Test | TTFT (ms) | TPOT (ms/tok) | pp TPS | tg TPS | E2E Latency | Throughput | Peak Mem |
|---|---:|---:|---:|---:|---:|---:|---:|
| pp1024/tg128 | 5558.0 | 52.03 | 184.2 tok/s | 19.4 tok/s | 12.166s | 94.7 tok/s | 18.86 GB |
| pp4096/tg128 | 26818.7 | 59.03 | 152.7 tok/s | 17.1 tok/s | 34.316s | 123.1 tok/s | 20.51 GB |

## Continuous Batching

### pp1024 / tg128

| Batch Size | tg TPS | Speedup | pp TPS | pp TPS/req | Avg TTFT (ms) | E2E Latency |
|---|---:|---:|---:|---:|---:|---:|
| 1x (baseline) | 19.4 tok/s | 1.00x | 184.2 tok/s | 184.2 tok/s | 5558.0 | 12.166s |
| 2x | 24.9 tok/s | 1.28x | 140.9 tok/s | 70.5 tok/s | 14531.3 | 24.829s |
| 4x | 19.1 tok/s | 0.98x | 133.9 tok/s | 33.5 tok/s | 30593.7 | 57.345s |
4 月 5 日
回复了 kachibear 创建的主题 她她 上海女性交友贴
热帖预定
基本无限 token
北京就是不欢迎普通外地人的 你这个条件 在上海可能还能勉强留下来 北京你绕不过几个事情
1.车牌摇号 hell 难度
2.户口和小孩上学 除了买房无解 启动资金 300-500w 起
3.通勤开销+全国 top2 的房租
玩不起呗
4 月 2 日
回复了 kcerty 创建的主题 生活 假如喜欢孩子,但不敢结婚有什么办法呢?
带过 3 岁以下的小孩么 没带过建议找个亲戚去帮帮忙带带孩子 带完再回来说是不是喜欢小孩
喜欢小孩如果只是路上看别人家孩子可爱 那不叫真的喜欢 我看狗看猫也挺喜欢的
哦 楼主还是个男的 难怪说喜欢小孩呢 站着说话不腰疼 毕竟不用怀孕生产喂奶产后修复激素紊乱 只要爽三秒就好了
4 月 2 日
回复了 clacf 创建的主题 程序员 感觉 ai agent 时代, windows 越来越不行了
cli 的确 mac 比 windows 好太多
wsl 是要跑个 linux 内核的虚机 不膈应吗
我之前是楼下空气能热水器共振 直接吵到没法睡 还好有其他房间
两个月以后搬家了
现在住的这套房子 自己振自己 中央空调共振
只能忍了 或者到半夜自己关
1 ... 3  4  5  6  7  8  9  10  11  12 ... 76  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2762 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 65ms · UTC 10:09 · PVG 18:09 · LAX 03:09 · JFK 06:09
♥ Do have faith in what you're doing.