Giaorui
V2EX  ›  OpenAI

AI 到底会不会进入一个无限递归自我强化的循环?

  •  
  •   Giaorui · Sep 28 · 1893 views
    This topic created in 53 days ago, the information mentioned may be changed or developed.
    最近上网看到一个 AI 视频的评论

    “AI 会不会造出一个比自己更强的 AI 更强的 AI 会不会再造出一个更强的 AI 以此类推......”

    这个言论如果成立的话 它的上限是什么?到达上限的 AI 的能力有多强?
    10 replies  •  2026-09-29 14:57:04 +08:00
    catamaran
    catamaran
    Sep 28
    1
    上限是老黄
    OutOfMemery
    3
    自我进化,这就是下一个阶段追求的目标了
    coefu
    coefu
    Sep 29
    4
    2 个字,母鸡
    3 个字,不知道

    不是言论成立,是已经是事实。
    lvcha
    lvcha
    Sep 29
    5
    这不就是当前的目标吗? rsi
    a/ 上个月吹牛逼说年初是 1%,现在能到达 27%了。
    huruiqing001122
    6
    我的朋友,哪有啥上限,就跟生物进化一样,是一直前进的
    WashFreshFresh
    7
    当前各家模型大力发展模型的 coding 能力就是为了实现你说的自我强化。
    owt5008137
    8
    不是说已经在做了吗? RSI 。Google 和智谱都说在路上了。
    Giaorui
    Giaorui
    OP
    Sep 29
    9
    @catamaran 我也觉得 最先到达的可能是物理上限
    sillydaddy
    10
    我想到了一个很好的类比:中文屋实验。
    中文屋=计算机+中英翻译规则,反驳人工智能的人,会说这台计算机不懂中文,只是按照规则翻译的。但是,支持的人则会说,计算机加翻译规则一起作为一个整体,是懂中文的。
    如果 RSI 实现了,那就意味着:推理时冻结了的神经网络权重,与 RSI 递归改进机制,作为一个整体,实现了可以持续学习的智能。
    所以从这个角度看,RSI 没啥特殊和可怕的,它就是类似人类这样的可以持续学习的智能,人类的持续学习能力会引爆奇点吗?不会,那没理由 RSI 会导致奇点,它的学习进步也要受限于收到反馈信号的速度,也要做实验、探索。不过,RSI 实现了,起码意味着肯定会超越人类物种的智能,也是一种相变,肯定会导致社会天翻地覆。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   929 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 130ms · UTC 21:00 · PVG 05:00 · LAX 13:00 · JFK 16:00
    ♥ Do have faith in what you're doing.