• 请不要在回答技术问题时复制粘贴 AI 生成的内容
coogoaa
V2EX  ›  程序员

Rust 重写 Pi 编码助手 rpi ,对比 Pi 和 Pi-Bolt 三款启动耗时和内存对比

  •  
  •   coogoaa · 23h 56m ago · 1274 views

    最近用 Rust 重写了 原生测 Pi ,无聊测试了一下性能, 多少感觉还是有点值得

    项目:pi-rust

    启动时间

    历史消息数 rpi 启动至就绪 Pi 启动至就绪 rpi 耗时减少
    100 16.93 ms 194.93 ms 91.3%
    1,000 28.85 ms 196.98 ms 85.4%
    5,000 81.60 ms 212.47 ms 61.6%

    ready_ms

    内存占用

    历史消息数 rpi 就绪 RSS Pi 就绪 RSS rpi RSS 减少
    100 21.41 MiB 96.15 MiB 77.7%
    1,000 27.33 MiB 98.04 MiB 72.1%
    5,000 50.85 MiB 116.77 MiB 56.5%

    ready_rss_mib

    10 replies  •  2026-11-08 15:39:48 +08:00
    hanfengzxh
    hanfengzxh
    23h 25m ago via Android
    1
    其实缺的也不是那点启动时间吧🥹
    ty5yidc
    ty5yidc
    22h 57m ago
    2
    RUST 性能确实好,我们用它做的 AI 网关,在配置比上游低的情况下把上游干崩很多次了,8 核 32G 内存,10000rpm 3.5 亿 tpm,我们 cpu 只用了 20%,系统整体内存使用 3G,网关实际占用内存才 800 多 M
    daimaosix
    daimaosix
    22h 54m ago
    3
    @ty5yidc 网关叫啥呀哥们
    ty5yidc
    ty5yidc
    22h 47m ago
    4
    @daimaosix 我们还没公开的,目前只有我们自己在商用,不过最近会公开免费版本,你可以加我 v 到时候提前试用下,搜 88172719
    aonco33
    aonco33
    7h 34m ago via iPhone
    5
    常维护,也很多人用。。。就怕停了
    coogoaa
    coogoaa
    OP
    4h 53m ago
    6
    @hanfengzxh 时间只是一部分 低内存占用 才是主要的
    hanfengzxh
    hanfengzxh
    4h 35m ago
    7
    @coogoaa Rust 在性能和内存上占用确实低,但对于桌面单会话来说,启动时间、内存占用本身就不是大问题。当基数不大的情况下,再减小分子意义也不大,只是分母游戏而已。而生态则是 0/1 是“能不能干活”的开关。

    不知道生态怎么考虑的:是重建还是桥接复用 Pi 的生态? Pi-Bolt 怎么这方面的问题。
    coogoaa
    coogoaa
    OP
    4h 33m ago
    8
    @hanfengzxh 以前考虑过兼容 Pi ,但是为了性能还是移除了,并自建扩展,目前已经有 20 个左右的常用扩展。现在用 AI 基本上生态不是很大的问题
    dacapoday
    dacapoday
    4h 0m ago
    9
    仅内存是优势,但考虑到运行起来后,内存占用主要为字符串以及围绕他们的 json 编解码,似乎优势又不大。
    agent 项目 I/O 为主,而且标准尚未稳定,需要快速迭代。主流都在折腾沙盒,工具集成与上下文保鲜,顶层驱动 agent loop 的运行时最好是某种动态语义方便集成。而且 agent 涉及不少缓存相关的数据结构,rust 的所谓内存安全派不上用场。而且 rust 编译慢,异步运行时支持复杂,AI 用 rust 开发迭代的速度,不如 node.js ,golang 这些能快速编译测试的语言。
    coogoaa
    coogoaa
    OP
    1h 36m ago
    10
    @dacapoday jiti 也需要,node 也需要消耗, 同时跑 10 个或者批量子 agent 就能看出来差距了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1563 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 09:16 · PVG 17:16 · LAX 01:16 · JFK 04:16
    ♥ Do have faith in what you're doing.