公司最近在做一个科技创新项目，偏面子工程，经常要对外宣传营销，经常要我硬写“创新点”文章报道。
我就用通义/Gemini：前期构思，后期润色。
内容后来被各路媒体、自媒体引用、转载（当然大部分是花钱请的）。
后来再写相关内容，继续习惯性丢给 LLM 。他会联网搜索到我之前写的报道，内容是我自己编的，参考资料也是。开始循环引用了。
一时间，不知道是我在喂养模型，还是模型在反哺我。自然产出的内容也会更低质，偏离原本内容。
This topic created in 479 days ago, the information mentioned may be changed or developed.
 |
SeanfuckJul 22, 2025
1
恶行循环了，后面可能会没（人类产出的）东西训练模型，导致 AI 停止进步。
|
 |
2
所以有时关闭 AI 联网搜索，反而能输出更优质的结果。
|
1 |
akornJul 22, 2025
3
时序模型，如果模型容量不够，做多步推理（用生成内容预测新内容），或者用生成内容做训练数据，模型预测结果会因为错误累积，迅速崩塌。
|
 |
PepperEggJul 22, 2025
4
过拟合
|
 |
sparkleeJul 22, 2025
5
近亲繁殖
|
 |
eleviouxJul 22, 2025
6
随着互联网上由 AI 生成的内容越来越多，原生数据占比越来越少，基于此训练的 AI/联网搜索会逐渐劣化？
|
 |
gunner168Jul 23, 2025 via iPhone
7
难怪之前很多 ai 助手，比如三星 bixbi ，微软小冰，越更新越废，看来是这个原因了
|
 |
catazshadowJul 23, 2025 via Android
8
计算不产生熵
|
Select Language