2025-10-25
跟上时代的脚步
2025-10-24
脑腐
从前天开始,我在各处高高兴兴地张贴一张截图,并且要求看到的人感谢我。以下就是这张截图,为了方便视障朋友阅读,我还会把文字版后附:
本日最好笑研究:
在训练 AI的时候,如果强迫 AI大量阅读社交媒体,会对 AI造成不可逆的脑损伤。
与在高质量数据上训练的对照组相比,持续投喂垃圾数据(确切来说是让它拼命刷推特)的LLM 在推理、长上下文理解和安全性能上均表现出明显的衰退。模型在性格测试中表现出精神病态和自恋等特质的得分显著提高。错误分析显示,模型的主要病变是思维跳跃,即越来越倾向于截断或跳过解决问题所需的关键推理链条
研究者比较了什么样的帖子最有「毒性」,发现最好的相关性指标是参与度,也就是一条贴文有多火。最容易病毒式传播的内容也最容易导致脑损伤。
这种认知衰退具有持久性。在模型出现脑损伤后,再用高质量的干净数据对其进行指令调整和继续预训练,也只能观察到部分但不完全的治愈。模型的表征漂移仍然存在。
你很难不怀疑这个研究是在指桑骂槐。
这个研究是真的,来自德克萨斯 A&M 大学、德克萨斯大学奥斯汀分校和普渡大学的一篇论文,论文原文地址在:
https://llm-brain-rot.github.io/
2025-10-23
在大卫像前大喊大叫的大妈
2025-10-22
如何欣赏一段文字
这里我放了一首陈冠蒨的《欲言又止》。陈是一名非常优秀的创作者,为很多歌手写过许多歌。而她自己只为自己出过两张专辑,《欲言又止》是她第二张专辑的同名主打歌,我想你听一下。不是你熟悉习惯的和弦,不是你熟悉习惯的编曲,甚至也不是你熟悉喜欢的歌词和曲风。因为全部不熟悉,所以值得听几遍,无需理解,无需解释,听就好了,从不习惯中慢慢感受到熟悉产生。然后,你会从此喜欢上她的作品也不一定。
2025-10-21
一些极为粗暴的结论
2025-10-20
一夜入冬
2025-10-19
订阅:
评论 (Atom)
近期热门博文
-
我打算重开博客。 最近应该有一批人和我有同样的想法,而他们在当年无一例外都开设过自己的独立博客,是很早之前就开始上网的中古网友。 他们的想法我很能理解,重开的契机是网友左耳朵耗子猝然离世。本来死亡是一个终结,但是大家发现左耳朵耗子多年来坚持深耕的博客还在,还记录了他这些...
-
我在公众号里说我“准备重开博客”,并没说我“已经重开博客”,但还是有很多人很敏锐地已经先期抵达。所以说,并非所有人都丧失了逐字逐句阅读长文的能力。 这个博客还是基于我最熟悉的WordPress 搭建,因为我对它最熟悉,当年在上面耗费了大量的时间和精力。不过和我三十多岁时写博客不同...
-
好像杭州的中学语文老师比较喜欢来我这里选取文章给学生做阅读理解,所以经常有小同学跑到我这里来求助。最新的一条留言是这样的: “这是一篇很好的文章。我觉得非常有意义。但是他千不该万不该出现在我的阅读理解上。” 这位小同学所指的文章是我在2019年写的《 捕鸟记 》,他还很...
-
我注意到我的博客 www.hecaitou.com 最近的访问量有明显的上升,看了一下数据,从搜索引擎而来的流量几乎没有发生什么改变。所以,我有一个猜想:阅读数的上升似乎是和 RSS 订阅器 Follow 的正式公布同步。 那么,各位是从 Follow 新来的么?谢...
-
我知道,大部分人都没有耳机瘾,甚至都没有接触过几种耳机。但是,你应该相信算法,相信营销,相信埋伏的力量。总有那么一天,你会和耳机遭遇。即便不是耳机,也会是别的东西,总有一款埋伏到你。 既然中伏只是个时间问题,那我这里先把结论给说了: 就是无论再怎么难,也无论你有多么想买某一款耳机...

