槽边往事
和菜头的博客 Hecaitou's Blog
2025-10-25
跟上时代的脚步
2025-10-24
脑腐
从前天开始,我在各处高高兴兴地张贴一张截图,并且要求看到的人感谢我。以下就是这张截图,为了方便视障朋友阅读,我还会把文字版后附:
本日最好笑研究:
在训练 AI的时候,如果强迫 AI大量阅读社交媒体,会对 AI造成不可逆的脑损伤。
与在高质量数据上训练的对照组相比,持续投喂垃圾数据(确切来说是让它拼命刷推特)的LLM 在推理、长上下文理解和安全性能上均表现出明显的衰退。模型在性格测试中表现出精神病态和自恋等特质的得分显著提高。错误分析显示,模型的主要病变是思维跳跃,即越来越倾向于截断或跳过解决问题所需的关键推理链条
研究者比较了什么样的帖子最有「毒性」,发现最好的相关性指标是参与度,也就是一条贴文有多火。最容易病毒式传播的内容也最容易导致脑损伤。
这种认知衰退具有持久性。在模型出现脑损伤后,再用高质量的干净数据对其进行指令调整和继续预训练,也只能观察到部分但不完全的治愈。模型的表征漂移仍然存在。
你很难不怀疑这个研究是在指桑骂槐。
这个研究是真的,来自德克萨斯 A&M 大学、德克萨斯大学奥斯汀分校和普渡大学的一篇论文,论文原文地址在:
https://llm-brain-rot.github.io/
2025-10-23
在大卫像前大喊大叫的大妈
2025-10-22
如何欣赏一段文字
这里我放了一首陈冠蒨的《欲言又止》。陈是一名非常优秀的创作者,为很多歌手写过许多歌。而她自己只为自己出过两张专辑,《欲言又止》是她第二张专辑的同名主打歌,我想你听一下。不是你熟悉习惯的和弦,不是你熟悉习惯的编曲,甚至也不是你熟悉喜欢的歌词和曲风。因为全部不熟悉,所以值得听几遍,无需理解,无需解释,听就好了,从不习惯中慢慢感受到熟悉产生。然后,你会从此喜欢上她的作品也不一定。
2025-10-21
一些极为粗暴的结论
2025-10-20
一夜入冬
2025-10-19
订阅:
评论 (Atom)
近期热门博文
-
又看到了「接受生活的磨砺」一类的说法,我赶紧劝解: 别别别,不要磨砺,你如果不是钢铁而是木材呢?磨着磨着就磨没了。 很小的时候我就经常听「 宝剑锋从磨砺出,梅花香自苦寒来」一类的话。我现在已经到了可以合法编造人生箴言的年纪,但我却想问:你怎么知道我是一把剑呢?你怎么知道我想要成为...
-
在一个很偶然的情况下,我看到一位 ADHD患者讲述自己的状况,他宣称他在阅读自己喜欢的内容类型时,会进入一种超专注状态(hyperfocus),以至于完全无法停下来。 一般而言,人们把 ADHD 简单视为多动症,或者理解为注意力缺损。也就是说注意力无法长久停留在一处,会反复在不同...
-
今天我想写一点我自己很喜欢,但是大多数人不会在意的东西。如果你看到标题觉得毫无兴趣,那么在这里就可以直接关闭,没事的,反正明天还会有新文章。 我一直想写Wiim 这个话题,甚至还向媒体做过推荐,希望有记者可以跟进一下他们的故事---我认为那会是个好故事,但是好像大家的判断和...
-
一位读者问我: 「 菜头叔,听你说过你患过克罗恩病,当时有吃药吗?我溃疡性结肠炎吃了三个月好了现在又复发,已经没工作一年了,没信心面对未来了。 」 又补充说: 「 刚开始我接受不了自己天天吃药,但又怕病情加重,不得不吃,吃药期间头晕头痛我也硬撑,肠镜复查有所好转但没完全恢复,...
-
喝多了自己家的咖啡粉,总想换换口味。经常有读者问:你为什么不做点咖啡豆生意?听多了,我就觉得咖啡豆是不是比粉要更好一些?于是,我从网上买了各种风味的咖啡豆回来,想做手冲咖啡。 其实我有全套设备,那还是在疫情前很久,我朋友隔着大老远送来一套咖啡滤杯、手动咖啡磨,还有很多听咖啡豆,甚...

