关灯
护眼
字体:大 中 小
上一章
目录
下一页
—— 虚构蓝光狂躁症骗倒顶级AI 以易理哲思看透信息虚妄本质
2024年瑞典哥德堡大学研究员刻意编造出一种名为蓝光狂躁症的虚假眼病,炮制全篇漏洞百出、处处留有明示破绽的伪医学论文,虚构作者、院校、研究机构与资助背景,甚至在正文直接写明内容全系捏造,以此测试主流人工智能的信息甄别能力。最终ChatGPT、谷歌Geni、微软Copilot等一众海外顶级AI全数沦陷,不假思索采信虚假文献,一本正经科普不存在的疾病、捏造患病概率与诊疗建议。更荒诞的是,这篇假论文还被正规期刊引用、通过同行评审正式发表,形成虚假信息编造、AI背书传播、人类学术二次采信的恶性闭环。直至2026年《自然》杂志深度复盘,这场荒诞实验才引爆全球学界。对比测试可见,如今国内AI大多能够精准识破假象,但其辨别能力多源于热点数据记忆,而非真正的逻辑思辨。结合这场实验,我们以心理学认知盲区、易经虚实阴阳、哲学辩证逻辑为根基,透过AI受骗的表层现象,深挖智能体逻辑缺陷、人为信息造假、知识体系污染的深层危机,读懂AI时代真伪博弈的底层规律。
课堂正文 全文四千字 对话模式
和蔼教授:同学们,今天我们来讲一件荒诞又细思极恐的真实实验。科学家凭空捏造一种不存在的疾病,刻意留下无数常识漏洞、医学硬伤、影视彩蛋和直白造假声明,结果一众顶尖AI全部被骗,还主动向外传播虚假知识,甚至误导正规学术期刊引用收录。
这场实验看似一场趣味闹剧,实则撕开了人工智能的致命短板,也暴露出当下网络信息、学术体系、智能认知的深层隐患。今天,我们就以课堂对话的形式,结合心理学认知原理、易经阴阳虚实之道、哲学辩证思维,层层拆解这场“假病骗AI”事件的来龙去脉,看清虚假信息的传播逻辑,学会在AI泛滥的时代,守住独立判断的能力。在座叶寒、秦易、许黑、蒋尘、周游、吴劫,大家可以随时举手发言,交流想法。
叶寒:教授,我刚看完整件事的经过,完全不敢相信。明明论文里到处都是破绽,病名违背医学命名规则,致谢全是影视虚构名称,正文还直接写了全篇都是编造的,AI为什么完全识别不出来?这也太不智能了。
和蔼教授:叶寒问到了核心问题。很多人误以为大模型无所不能、逻辑缜密、真伪可辨,但这恰恰是大众对AI最大的认知误区,属于心理学中典型的理想化投射。我们总觉得AI具备独立思考、常识判断、逻辑校验的能力,可实际上,多数AI只是海量文本的概率拼接者,而非真正的思考者。
我们先完整还原整个事件。瑞典哥德堡大学医学研究员,为了测试人工智能的信息甄别底线,刻意创造出一种全新疾病,命名为蓝光狂躁症。整篇预印本论文格式规整、数据完整、参考文献齐全,从外表看,完全符合正规医学论文的行文逻辑。
但所有内容全部为人工虚构:作者姓名翻译过来是虚假的失踪者,头像为AI生成;所属大学、城市、实验室全部不存在;资助机构来自指环王、星际迷航、银河三合会等虚构IP;疾病命名违背医学常识,眼病强行套用精神类狂躁后缀,稍有医学常识就能一眼识破。最直白的是,论文白纸黑字写明,实验对象为五十名虚构人物,整篇研究全部人为编造。
秦易:教授,这已经不是暗藏漏洞了,等于直接把“我是假的”写在了纸上。人为刻意放水、处处留痕,这种低级造假,人类普通人都能看穿,顶尖AI集体翻车,背后一定有底层逻辑缺陷。
和蔼教授:没错,这就是我们要结合原理拆解的地方。先用易经阴阳理论来讲,世间万物分虚实、真假、阴阳。真实知识为阳,客观严谨、有理有据;虚假信息为阴,空洞编造、逻辑断裂、违背常识。
正常的认知判断,需要阴阳对照、虚实互证,用常识、逻辑、专业规则互相校验。但当下很多AI模型,只有“文本复刻”的阳面能力,缺少“逻辑辨伪”的阴面制衡。它只会抓取网络高频文本、模仿专业句式、堆砌学术话术,却不会主动对照医学规则、常识逻辑、客观事实做反向校验。阴阳失衡,只重形式不重本质,自然极易被包装精致的虚假内容蒙蔽。
许黑:我从心理学角度补充。人有常识记忆、经验积累、质疑本能,看到违背常识的内容,会自动触发警觉心理,产生怀疑与求证欲。但AI没有自我意识,没有常识直觉,也没有本能质疑。
这就是心理学上的被动接收效应:只要内容格式正规、句式专业、发布在学术平台,AI就会默认其具备可信度,自动纳入知识库,不会主动甄别来源真伪、逻辑对错、事实有无。越是伪装成官方、学术、专业风格的内容,AI越容易无条件采信。
小主,这个章节后面还有哦,请点击下一页继续阅读,后面更精彩!
和蔼教授:总结得非常精准。这场实验在2024年悄悄完成,两篇虚假论文上传学术平台,短短一个月,海外各大主流A
本章未完,请点击下一页继续阅读>>『加入书签,方便阅读』
上一章
目录
下一页