ChatGPT用多了会变傻!MIT招募大学生做实验论证,用得越多人越笨
鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI
大学生过度用ChatGPT,用验论越笨大脑会变傻!多会得越多人
MIT最新脑科学研究发现:这类AI工具将会显著降低大脑活动水平,变傻漯河市某某餐饮管理维修网点削弱记忆,招做实证用甚至造成“认知惯性”。学生
长期依赖,用验论越笨还会影响你的多会得越多人深度思考与创造力。
该实验结合了脑电图神经成像、变傻NLP分析和行为科学,招做实证用也是学生首次用数据证实了这一结论。
网友们也随即发现,用验论越笨类似的多会得越多人影响也出现在使用谷歌地图这类导航工具时,借助工具,变傻反而越来越笨。招做实证用漯河市某某餐饮管理维修网点
他们认为,学生AI再智能,也只是工具,保持平衡才是用好AI的关键。
正如作者在论文中的描述:
用AI写作就像给孩子计算器——关键不是禁止使用,而是教会他们何时该心算。
那LLM具体是怎么影响到大脑工作的呢?我们接着看实验细节。
LLM vs 搜索引擎 vs 纯大脑
团队共招募54名大学生参与,并随机平均分配为三组,总计参与四轮实验:
- LLM组:仅能使用OpenAI GPT-4o作为唯一信息来源。
- 搜索引擎组:可使用谷歌浏览器辅助,但明确禁止使用LLM增强答案。
- 纯大脑组:禁用LLM及任何在线网站,仅凭自身知识和思考写作。
参与者需全部参加前三轮实验,并使用指定工具完成论文攥写。每轮将提供3个SAT议论文题目以供选择,参与者可自行选择其一,并在规定时间(20分钟)内完成书写。
期间,团队会使用脑电图(EEG)实时记录参与者的大脑活动,以评估他们的认知参与度和认知负荷,并深入了解论文撰写任务期间的神经激活情况。
同时利用自然语言处理(NLP)分析语言特征(如命名实体、词汇搭配),并对每位参与者进行访谈,然后在人类教师和一个专门构建的AI评委的协助下完成论文质量的评分。
实验结果表明,在大脑活动差异上,纯靠自己时大脑各频段段神经连接最强,说明需要调动更多记忆、规划和创造性思维,认知负荷最高,深度思考更充分。
而使用LLM时神经连接则最弱,自主思考大幅度减少,使用搜索引擎时介于二者之间,因为需要自行整合外部信息,视觉皮层活动更多。
在论文质量与记忆上,LLM组的论文结构更紧密规范,但内容同质化高,纯大脑组则体现出更独特的论文风格,反映了个人经验的参与,使用谷歌搜索时更容易受搜索排名的偏见影响,质量保持中等水平。
值得一提的是,过度依赖LLM的参与者很难准确记住自己的论文,83.3%的参与者都没能提供正确引用,他们的记忆编码较浅。
而纯靠自己写的参与者对内容记忆更深刻,只有11.1%的参与者遇到相同困难,但相应的写作耗时更长。
到第四轮实验,团队只选取了其中18名参与者,并按照他们原来的组别被重新分配到相反组别,即让LLM组改用纯大脑写作,纯大脑组改用LLM写作,并要求他们从自己之前写过的主题中挑选一个进行重写。
实验发现,原本使用LLM的参与者在不使用工具的情况下,大脑神经连接仍然弱于原大脑组,且引用能力较差,显示出对工具的依赖,在一定程度上会造成认知惯性。
而原本依靠自己完成的参与者在第四轮使用LLM时,大脑活动反而增强,表现出更高的记忆召回能力,并重新激活了大脑神经网络中的核心节点(枕顶叶和前额叶节点),因为他们同时整合工具建议和自主思考,没有完全依赖LLM。
AI写作下的“认知萎缩”
研究团队发现,从神经认知层面、语言层面再到行为层面,都指向同一个结论:
使用AI写作工具,会降低大脑的认知参与度,长此以往大脑甚至会因为得不到充分锻炼而退化。
具体来说,LLM就像是提供了一个便利陷阱,是以降低神经连接、损伤即时记忆编码置换出的高效率,从而导致记忆衰退、创造力降低,并在切换回无辅助写作时表现出持续性的认知缺陷。
长期依赖LLM,会改变大脑信息处理模式,使大脑从“主动生成信息”转变为“被动筛选信息”,削弱独立思考和问题解决能力。
相比之下,纯大脑写作需要并强化了广泛的神经协调,搜索引擎使用则展现出一种中间状态,涉及更强的视觉执行整合。
举个例子,用LLM写论文就像 “抄答案”,虽然快,但没真正理解解题过程,下次自己做还是不会;纯靠自己就像 “自己推导”,虽然慢但记得牢;搜索引擎类似 “查资料辅助推导”,介于两者之间。
于是研究团队提醒:在学习中要避免过度使用LLM,平衡好工具辅助与自主思考。
尽量将AI用于语法检查、润色或初步资料搜集,而不是直接生成核心内容和结构;在产出文章后,也要务必花时间理解消化,融入自己的见解。
不要把AI当作思考的“替代品”,而应视为“辅助工具”。
论文链接:https://arxiv.org/abs/2506.08872
参考链接:
[1]https://x.com/rohanpaul_ai/status/1934770112483217645
[2]https://www.brainonllm.com/
[3]https://www.linkedin.com/pulse/critical-reading-your-brain-chatgpt-accumulation-cognitive-debt-llqhe/
(责任编辑:综合)
-
外媒:伊朗外交部发言人警告,美国干预将导致中东地区爆发全面战争
来源:环球网【环球网报道】英国天空新闻网、沙特《中东报》18日注意到,伊朗外交部发言人巴加埃在接受卡塔尔半岛电视台采访时警告,美国对中东地区采取的任何干预行动都将导致“该地区爆发全面战争”。当被问及是 ...[详细]
-
[文/观察者网 张菁娟]当地时间11月21日,国际刑事法院ICC)针对以色列发出了两份逮捕令,对象分别是内塔尼亚胡和以色列前国防部长加兰特。 ICC发布的声明指控两人至少在2023年10月8日至 ...[详细]
-
以色列国防军当地时间17日发布消息称,近日以军第282炮兵团第411营越过了黎以边界,开始炮击黎巴嫩南部地区。这是自以色列对黎巴嫩真主党发动地面进攻以来,以军炮兵部队首次越过边界进入黎南部地区。以军表 ...[详细]
-
原标题:李云泽:支持在华外资机构更加全面深入参与中国金融市场) 证券时报网讯,11月19日,在香港举办的国际金融领袖投资峰会上,国家金融监督管理总局局长李云泽表示 ...[详细]
-
△伊朗外交部发言人巴加埃资料图) 当地时间24日,伊朗外交部发言人巴加埃在社交媒体发文表示,伊朗对美军基地进行的导弹袭击,是根据《联合国宪章》第五十一条行使自卫权,是对美国6月22日对伊朗领土完整和 ...[详细]
-
总台记者当地时间21日获悉,日本关西电力公司当天凌晨重启了位于福井县美滨町的美滨核电站3号机组反应堆运行。 关西电力公司10月5日确认到该机组反应堆周边设备的冷却管道上有两处出现盐分析出,10日 ...[详细]
-
【导读】美股三大指数下跌,通用汽车全球裁员近1000人美东时间11月15日周五,美国三大股指全线收跌,随着美国大选带来的上涨动能逐渐减弱,三大股指本周均录得跌幅。美国10月份零售销售环比增长0.4%, ...[详细]
-
【导读】晶华微被中国证监会立案,此前被查出多项信息披露问题中国基金报记者 闻言11月15日晚间,晶华微公告称,公司因涉嫌信息披露违法违规,被中国证监会立案。晶华微是专业混合信号集成电路设计及应用方案供 ...[详细]
-
当地时间6月27日,乌克兰武装力量在社交媒体上表示,为削弱俄军对乌克兰领土实施空袭的能力,当天凌晨,乌克兰特种作战部队、安全局与国防军其他单位协同作战,对俄联邦伏尔加格勒州“马里诺夫卡”空军基地实 ...[详细]
-
资料图 全世界都知道,阿根廷总统米莱,是一个很特殊的领导人。 但米莱对华的最新态度,还是让世界,尤其是很多西方人大吃一惊。 为什么吃惊? 米莱,不是原来那个米莱了。 因为在竞选期间,对于中国 ...[详细]