当 AI 开始引用它自己写的东西

66 天前
 tsja

公司最近在做一个科技创新项目,偏面子工程,经常要对外宣传营销,经常要我硬写“创新点”文章报道。

我就用通义/Gemini:前期构思,后期润色。

内容后来被各路媒体、自媒体引用、转载(当然大部分是花钱请的)。

后来再写相关内容,继续习惯性丢给 LLM 。他会联网搜索到我之前写的报道,内容是我自己编的,参考资料也是。开始循环引用了。

一时间,不知道是我在喂养模型,还是模型在反哺我。自然产出的内容也会更低质,偏离原本内容。

1629 次点击
所在节点    分享发现
8 条回复
Seanfuck
66 天前
恶行循环了,后面可能会没(人类产出的)东西训练模型,导致 AI 停止进步。
ileeoyo
66 天前
所以有时关闭 AI 联网搜索,反而能输出更优质的结果。
acorngyl
66 天前
时序模型,如果模型容量不够,做多步推理(用生成内容预测新内容),或者用生成内容做训练数据,模型预测结果会因为错误累积,迅速崩塌。
PepperEgg
66 天前
过拟合
sparklee
66 天前
近亲繁殖
elevioux
66 天前
随着互联网上由 AI 生成的内容越来越多,原生数据占比越来越少,基于此训练的 AI/联网搜索会逐渐劣化?
gunner168
66 天前
难怪之前很多 ai 助手,比如三星 bixbi ,微软小冰,越更新越废,看来是这个原因了
catazshadow
65 天前
计算不产生熵

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1146794

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX