从前天开始,我在各处高高兴兴地张贴一张截图,并且要求看到的人感谢我。以下就是这张截图,为了方便视障朋友阅读,我还会把文字版后附:
本日最好笑研究:
在训练 AI的时候,如果强迫 AI大量阅读社交媒体,会对 AI造成不可逆的脑损伤。
与在高质量数据上训练的对照组相比,持续投喂垃圾数据(确切来说是让它拼命刷推特)的LLM 在推理、长上下文理解和安全性能上均表现出明显的衰退。模型在性格测试中表现出精神病态和自恋等特质的得分显著提高。错误分析显示,模型的主要病变是思维跳跃,即越来越倾向于截断或跳过解决问题所需的关键推理链条
研究者比较了什么样的帖子最有「毒性」,发现最好的相关性指标是参与度,也就是一条贴文有多火。最容易病毒式传播的内容也最容易导致脑损伤。
这种认知衰退具有持久性。在模型出现脑损伤后,再用高质量的干净数据对其进行指令调整和继续预训练,也只能观察到部分但不完全的治愈。模型的表征漂移仍然存在。
你很难不怀疑这个研究是在指桑骂槐。
这个研究是真的,来自德克萨斯 A&M 大学、德克萨斯大学奥斯汀分校和普渡大学的一篇论文,论文原文地址在:
https://llm-brain-rot.github.io/
如果你看过这篇论文的摘要,那么你会很容易理解截图里那句「你很难不怀疑这个研究是在指桑骂槐」是什么意思。是的,如果 AI 大模型会因为社交媒体上的垃圾内容而变傻,那么就有理由相信相同的事情可能发生在人类身上。当然从科学上来说,这个推论不够严谨,太过跳跃,中间都没有动物实验阶段。不过,互联网从诞生那一刻起,就直接进入了临床阶段,你我就是动物实验里的动物,和小白鼠、猴子相比,稍微贵一些就是了。从这个角度来说,我多年来不做标题党,不追逐热点,不传播垃圾营销内容,文章保持克制,不使用文字挑动读者的情绪,督促读者思考鼓励读者阅读写作,于是流量一年低一年,逐渐变成了一个过气网红---这都是为了保护你的脑子啊!还不说声「谢谢」你在等什么呢?都赶紧的。其实不需要这篇论文,你我的经验早就已经得出了结论。比如说 Deepseek在春节推出的时候,是个很聪明的模型。各个平台接入自己的系统之后,用自己平台上充斥着的各种垃圾内容训练之后,看起来这些定制的 DeepSeek 分支更加能说会道了,但胡说八道的感觉也变得越来越强烈了---这个变化你我都应该经历过。回到更早之前,我记得我好像在文章里说过自己的担忧:当时我观察到许多年轻时候很聪明的家伙,人到中年之后不知道为什么,也开始在群里转各种无脑文,垃圾营销文,和没受过多少教育的大爷大妈妈没有任何不同,似乎之前他们的才智、学养、聪慧、阅历根本就没有起作用。于是,我开始担心自己年纪再大一点之后,也会在不知不觉中变成这个样子。那么,现在我算是找到了一个解答:他们在社交媒体上的时间太长,读了太多垃圾文章,这些文章造成了他们脑腐。脑腐到一定程度,就他们开始向群里转发他们认为很有道理的文章。他们是真看不出来有什么问题,他们是真觉得文章内容相当好。是的,大学教授也可能转发每日口服 7 颗绿豆能够逆转高血压、或者永乐大典拥有人类一切知识奥秘的的文章---学术训练的强度和社交网络垃圾文章洗脑的强度不可同日而语。除此之外,就你的观察和个人感受,是不是已经发现了包括自己在内的许多人,注意力正在随着时间逐渐下降?就是说,不大能专注地读完一本书,看完一部电影,听完一张专辑,倾听别人完整表述自己的观点.......你有很多次中断,你有很多次跳转,你的注意力忙忙碌碌,蹦来跳去,最后一天下来,感觉脑子忙得不得了,然而具体思考一下究竟做了点什么,发现心头一片茫然......但是这一天里,你点赞过很多回,转发过很多回,浏览过无数个页面,无数条文字,无数条视频。这些动作是连续且持久的,动作的对象,那些对应的内容,则是破碎且跳跃的。而因此产生的个人情绪,却是一波接一波,强烈而持久。以至于你放下手机很久之后,心潮依然澎湃,忧思依然缠绕,泪水时不时涌出眼眶。而且,如果你想要激发或者维系这些情绪,你会发现大量的同类,他们在不断发表类似的内容,可以让你心头一波未平,一波又起......所以,你并不需要这篇论文,靠你的个人观察和生活经验就可以得出类似的结论。当然了,如今互联网世界里提出「脑腐」这个概念,会让类似的结论快速传播,引发更多讨论,这是造词、造概念的好处。然而,知道一个新的流行词,一个新的概念之后,问题并未得到解决。事实上,「脑腐」也可能成为垃圾营销内容的一部分,夹带其他东西汹涌而来,不如说每天口含八颗黑豆可以防御脑腐一类的事情。这里我有个不是建议的建议,那就是请你去查看一下那些著名的社交网络平台创始人的日常生活,查一下他们中有几个人每天是长在手机里,又有多少人远离手机还有别的事情去做。然后再思考一下,做出社交平台、社交媒体平台的人,为什么自己不投入其中?当你试着去找寻答案的时候,也许会发现这是一个很有趣的问题。
---
---