2025-10-25
跟上时代的脚步
2025-10-24
脑腐
从前天开始,我在各处高高兴兴地张贴一张截图,并且要求看到的人感谢我。以下就是这张截图,为了方便视障朋友阅读,我还会把文字版后附:
本日最好笑研究:
在训练 AI的时候,如果强迫 AI大量阅读社交媒体,会对 AI造成不可逆的脑损伤。
与在高质量数据上训练的对照组相比,持续投喂垃圾数据(确切来说是让它拼命刷推特)的LLM 在推理、长上下文理解和安全性能上均表现出明显的衰退。模型在性格测试中表现出精神病态和自恋等特质的得分显著提高。错误分析显示,模型的主要病变是思维跳跃,即越来越倾向于截断或跳过解决问题所需的关键推理链条
研究者比较了什么样的帖子最有「毒性」,发现最好的相关性指标是参与度,也就是一条贴文有多火。最容易病毒式传播的内容也最容易导致脑损伤。
这种认知衰退具有持久性。在模型出现脑损伤后,再用高质量的干净数据对其进行指令调整和继续预训练,也只能观察到部分但不完全的治愈。模型的表征漂移仍然存在。
你很难不怀疑这个研究是在指桑骂槐。
这个研究是真的,来自德克萨斯 A&M 大学、德克萨斯大学奥斯汀分校和普渡大学的一篇论文,论文原文地址在:
https://llm-brain-rot.github.io/
2025-10-23
在大卫像前大喊大叫的大妈
2025-10-22
如何欣赏一段文字
这里我放了一首陈冠蒨的《欲言又止》。陈是一名非常优秀的创作者,为很多歌手写过许多歌。而她自己只为自己出过两张专辑,《欲言又止》是她第二张专辑的同名主打歌,我想你听一下。不是你熟悉习惯的和弦,不是你熟悉习惯的编曲,甚至也不是你熟悉喜欢的歌词和曲风。因为全部不熟悉,所以值得听几遍,无需理解,无需解释,听就好了,从不习惯中慢慢感受到熟悉产生。然后,你会从此喜欢上她的作品也不一定。
2025-10-21
一些极为粗暴的结论
2025-10-20
一夜入冬
2025-10-19
订阅:
评论 (Atom)
近期热门博文
-
我打算重开博客。 最近应该有一批人和我有同样的想法,而他们在当年无一例外都开设过自己的独立博客,是很早之前就开始上网的中古网友。 他们的想法我很能理解,重开的契机是网友左耳朵耗子猝然离世。本来死亡是一个终结,但是大家发现左耳朵耗子多年来坚持深耕的博客还在,还记录了他这些...
-
你如何理解事物,决定了你会采取怎样的行动。 比如我写公众号,我盲目地相信写作是一种表达,可以在我和读者之间建立起一种人际关系,最后形成一种网络上的共同生活。因此,我要每天写一篇,在这一篇文字里说点什么有意思或者有价值的事。我还要每天回复许多条读者留言,也要提防读者们相互争吵进入人...
-
我在公众号里说我“准备重开博客”,并没说我“已经重开博客”,但还是有很多人很敏锐地已经先期抵达。所以说,并非所有人都丧失了逐字逐句阅读长文的能力。 这个博客还是基于我最熟悉的WordPress 搭建,因为我对它最熟悉,当年在上面耗费了大量的时间和精力。不过和我三十多岁时写博客不同...
-
说出诸如「你这篇文章是用 AI 写的吧」,「这篇文章的 AI 味很浓啊」之类话语的人,我认为就算是 AI 鉴定家。在我这里也有,但是数量不多。原因有二: 第一,我通常把这种留言放出来,因为集体撒癔症是一项传统活动,放一条出来,会迅速感染一批。第二,我通常会把这种留言者直接封杀...
-
我注意到我的博客 www.hecaitou.com 最近的访问量有明显的上升,看了一下数据,从搜索引擎而来的流量几乎没有发生什么改变。所以,我有一个猜想:阅读数的上升似乎是和 RSS 订阅器 Follow 的正式公布同步。 那么,各位是从 Follow 新来的么?谢...

