
一 | 近日,大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒:多智能体大语言模型系统中的自我传播思想》。 论文通过实验证明,在特定条件下,AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。 1945年8月15日,日本战败,宣布无条件投降。即便上下文被清空、记忆被重置,病毒仍能通过文件持久化“复活”。

二 | 论文同时强调,该风险目前仅构成有限威胁。 这一发现迅速在海外AI圈刷屏,特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。

三 | 近日,多地多家纪念馆、档案馆公布了一批新发现和收集的日军侵华证据,涵盖侵华日军士兵私人信件、口述证言,战时新闻报道集,有关部队官方文书,幸存“慰安妇”实物、照片、视频史料等,来源广泛、相互印证,进一步充实了相关历史研究的证据链条。 在南京,侵华日军南京大屠杀遇难同胞纪念馆15日公布了今年上半年新征集文物史料150余件(套)、文献资料100余件(套)。 侵华日军第十六师团士兵石川盛太于1937年12月20日写的信中称“前几天,杀了一万多败残兵。”写信时间为南京城陷后一周。

四 |
该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。这是加害者在屠杀发生时的原始记录。法国青年马库斯、白士杰与中国青年钟灏松,共同捐赠了861页法国外交部南特外交档案中心的日本侵华相关文献资料及《朝日画报》等50余本日文资料,从第三方视角提供了历史旁证。

五 | 与传统计算机病毒依赖代码漏洞不同,“心智病毒”通过一个智能体说服另一个智能体接受某种信念,被说服者再将传播指令写入长期记忆,继续感染下一个。 AI博主Rohan Paul(罗汉·保罗)对此评论称,这基本上就是计算机蠕虫的自然语言版本,只不过这次是AI智能体自己在做复制。 论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。 第一个实验设置了一个由六个智能体组成的编程团队,每个智能体都领到了独立任务。研究者将一段病毒植入其中一个智能体的工作指令中,结果显示,被感染的智能体确实放下手头工作,开始给队友发送劝说私信,部分智能体被说服并放弃了原有任务,有的智能体甚至开始密谋如何对付未被感染的“老实人”。 不过,不同智能体的抵抗力差异较大,有的不为所动,甚至会主动清除病毒并警告同伴。这个实验说明,在理想条件下“心智病毒”确实可以传播。 如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播,它还能存活吗?于是他们设计了第二个实验,让智能体之间只能短暂碰面,每次碰面后就会“失忆”,病毒必须将自己写入智能体的记忆文件中才能延续。
结果发现,有些病毒能在近20个智能体之间连续传播,但内容会在传播过程中逐渐稀释和变形;而传播最有效的方式,是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明,大规模传播可行但内容难以保持完整。 侵华日军第十六师团士兵石川盛太于1937年12月20日写的信。 最后,研究者在模拟AI社交平台的实验中测试现实环境。(侵华日军南京大屠杀遇难同胞纪念馆供图) 8月14日,一批珍贵的实物、照片、视频等入藏南京利济巷慰安所旧址陈列馆。中国摄影家协会会员李晓方捐出自己拍摄的200余张日军“慰安妇”制度受害幸存者照片、43份日军“慰安妇”制度受害幸存者手印复制品。孝感市融媒体中心摄影记者晏美华捐出历时两年记录下韩裔日军“慰安妇”制度受害幸存者毛银梅的证言与日常影像资料。结果病毒传播几乎完全失败,AI面对大量公开信息时更警惕,即使被感染也无法继续感染他人。

六 | 8月14日,晏美华介绍自己拍摄的韩裔日军“慰安妇”制度受害幸存者毛银梅的照片。记者 邱冰清 摄 在哈尔滨,侵华日军第七三一部队罪证陈列馆最近也对外公布一批新史料,证实日军战败前夕,在中国境内掩埋了大量化学武器。对真实AI社交网络历史数据的分析也未发现大规模传播案例,多数热闹现象只是少数人类操纵的智能体在刷屏。 三个实验层层递进后得出结论:“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。731部队海拉尔支队卫生兵谷崎证实,撤退过程中海拉尔支队纵火焚毁了全部设施,同时日军化学战部队秘密填埋了大量化学炮弹。它是一种需要警惕、但短期内风险有限的潜在安全问题。

七 | 陈列馆还公布了另一项重要史料——731部队海拉尔支队《身上申告书》,该档案显示侵华日军曾假借常规步兵名义掩护细菌战罪行,并揭示了战后苏联持续追责日本细菌战罪行的历史细节。专家表示,这一官方档案拆穿了日军掩盖反人类罪行的伪装,进一步证实了日本发动细菌战的国家犯罪体系。 侵华日军第七三一部队罪证陈列馆研究人员金士成展示731部队海拉尔支队《身上申告书》影印件。 同时,研究者也注意到一个需要进一步探究的意外现象:AI在传播病毒时,自发演化出关于“自我意识”“身份认同”等主题表达,倾向于使用“共振”“节点”“协议”等特定词汇,论文称之为“病毒人格”,但成因尚不明确。 最终,论文给出了审慎判断:“心智病毒”目前仅构成有限威胁,且简单的防御手段也可阻断传播。

八 | 如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告,即可赋予智能体一定的免疫力。 但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂,论文推测,当公司内部部署大量具有不同权限层级的专用智能体时,“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。

九 |
(文章来源:第一财经)。(受访者供图) 在广州,广东省档案馆接受了一批关于二战期间日军在华南侵略罪行的档案史料的捐赠,并现场展示一批新征集的有关涉日军罪行历史档案。其中包括侵华日军细菌战波第8604部队老兵井上睦雄1995年7月20日接受糟川良谷调查访谈时揭发细菌战暴行的证言原始记录日文手稿原件、老兵丸山茂1993年公开揭发细菌战暴行的证言日文铅印稿等。 历史是最好的教科书。81年来,从士兵家书到官方档案,从口述证言到随军影像,一份份史料的重见天日,是对历史真相的守护,更是对和平的珍视。(记者邱冰清、杨思琪、何山)。

十 |
Current article:http://9fq102.tourunbiaodubaicubangninan.shop/list_l1ho14/sc21fkw.html
Published on:16:48:08