technology 9 分钟阅读

AI视频斩获科学摄影大奖,审查漏洞暴露无遗

一段由AI生成的显微镜影像在尼康小世界动感大赛中获奖,却被生物学家发现其中包含现实中不存在的合成结构。这一事件揭示了AI辅助图像进入学术记录时存在的严重审核空白。

  • 噬菌体
  • 科学
  • 显微镜
  • 同行评审
  • 尼康

当一支幻觉视频拿下科学奖项

尼康近日宣布,将重新审查其第16届"微动世界"(Small World in Motion)竞赛的获奖作品,因为该比赛的头奖视频被发现包含了AI生成的结构,而这些结构在现实生物学中并不存在。获奖者徐宁(Ning Xu)是新加坡国立大学的光学工程师,他提交了一段延时摄影视频,展示了原发性纤毛运动障碍患儿肺部组织样本中纤毛的搏动——这是一种慢性呼吸系统疾病。

这段视频在视觉上极具冲击力。在纤毛下方,红色、蓝色和紫色的微弱结节不断脉动和漂移——事实证明,这些结构并不存在于人类肺组织的上皮下层。比赛于九月中旬公布,科学家们花了大约一周时间就在公开场合将其拆解。

发现破绽的生物学家

这场打假并非由统计学家或计算机科学家主导,而是由生物工程学家和发育生物学家发起——他们一眼就看出视频中的结构在生物学上不可能存在。佛罗里达大学生物工程研究员爱德华·菲尔斯(Edward Phelps)在LinkedIn上发文指出,紫色特征看起来像线粒体,但"由同尺寸于细胞核的细胞外线粒体组成的上皮下层结构,在生物学中并不存在"。他还表示,蓝色结节看起来像细胞核,但行为方式却与他见过的任何事物都不同,而对于红色结构究竟代表什么,他也没有任何理论。

德克萨斯大学西南医学中心的博士生伊恩·唐纳文(Ian Donovan)提出了另一处红旗:视频带有SynthID水印——这是Google DeepMind首创的检测标签,直接嵌入AI生成媒体中。SynthID水印是目前少数几种能够可靠确认图像是否源自AI系统的技术标记之一。在科学竞赛作品中出现此类水印,本该直接导致取消资格——或者至少,应引发即时的严格审查。

规则究竟怎么说

在本次比赛中获得第五名的帕特里克·希基(Patrick Hickey)告诉BBC,比赛有明确的规则禁止使用生成式AI制作内容,且参赛作品必须在显微镜下拍摄。2010年的成像指南允许对色彩化进行披露,但这些指南制定于生成式AI诞生之前,因此并未涉及神经网络能否凭空捏造出看似合理实则不存在结构这一问题。

据《自然》报道,徐宁本人的陈述走在一条狭窄的钢丝上。他表示,原始的纤毛显微 footage 是真实的。他还称,在后期处理中使用了无监督神经网络来增强对比度并可视化灰度数据中的特征——但他的团队无意对纤毛下方的彩色结构代表什么解剖学含义做出主张。尼康的新闻更新承认了神经网络处理的存在,但将其定位为可视化工具,而非伪造引擎。这一区分至关重要,而陪审团仍在裁决这能否站得住脚。

审核缺口

这段事件暴露的问题是:该比赛在视频获奖之前没有任何正式的同行评审程序。参赛作品确有评审,但评审团似乎并未纳入能识别图像中生物学不可能性的独立专家。整个纠错过程完全来自在职科学家在社交媒体上的自发评论。对于任何声称具有科学可信度的事物而言,这绝不是健全的质量控制体系。

“微动世界"这类比赛处于一个尴尬的交汇点。它们颂扬显微摄影的美学力量,而显微摄影往往涉及大量的后期处理、色彩化和解释性渲染。它们也吸引了大量观众,这些人可能会将艺术加工等同于经验证据。当AI能够生成看起来像真实细胞器的结构时,诚实的可视化与彻底的幻觉之间的界限变得越来越模糊——而最有可能识别出差异的人,既不是参赛者,也不是评委,更不是比赛组织者。他们是像菲尔斯和唐纳文这样的人,在周二早上刷着LinkedIn。

超越奖项本身的意义

直接的损害是有限的。没有论文被发表,没有科研基金被授予。但先例是危险的。如果一段由AI幻觉生成的视频能够赢得由全球最大光学公司之一赞助的比赛,那么同一模型也能伪造期刊论文、会议海报或教科书中的显微图像——尤其是在处理流程被描述为"无监督神经网络方法"等模糊措辞时,而非以可复现性所要求的精确度加以说明。

昆士兰大学的发育生物学家梅拉尼·怀特(Melanie White)告诉《自然》,科学图像就是数据,对显微摄影的信任建立在研究人员所见所测皆根植于实际测量这一假设之上。大赛前评委安德鲁·摩尔(Andrew Moore)将徐宁的视频比作用AI修复的老照片:视觉上是令人印象深刻的,但当你意识到自己看到的并非真实存在之物时,这种感觉就会变得令人不安。

如今发生了什么变化

尼康表示,徐宁正在配合调查,并已提供其设备和方法的详细文档。这些文档能否经得住更严格的审视,仍是一个开放性问题。比赛组织方尚未就撤销奖项或修改规则发表公开声明。这种沉默本身就是一个信号:搭建这一平台的相关机构几乎没有动力承认其审核机制失灵,推动前进的压力可能超过深入挖掘的压力。

几项具体措施会有所帮助。首先,应要求所有参赛作品的作者披露任何经AI辅助处理的环节,并详细描述其范围和性质。其次,比赛应为每个组别设立具有独立领域专长的独立评审小组,以确保作品由能够识别生物学不可能性的人来评判。第三,目前允许色彩化和增强的指南应得到更新,明确涵盖生成式AI时代——而不只是解释性处理这一层面。

“微动世界"竞赛长期以来一直在颂扬光学显微摄影之美。美并非科学的敌人。但当AI能够从噪声中制造出美时,将两者混淆的代价将由每一个信任镜头下所见之物的落单承担。