韩国深度伪造犯罪激增8倍，AI犯罪跑在法律前面

数字不会说谎——而且令人警醒

韩国女性家庭部发布了一组数据，任何关注人工智能与伤害交叉领域的人都应为此不安。涉及色情伪造内容的深度伪造相关犯罪，从2023年的168起报告案件，上升到2024年的550起，再到去年约1300起。仅两年时间，增幅高达7.7倍。

这一轨迹尤其令人警觉之处，在于它与传统网络性犯罪的鲜明对比。非法拍摄类犯罪——即那些未经他人同意秘密录制他人的行为——在同一时期几乎停滞不前。警方数据显示，此类案件每年维持在5400至5800起之间，最近一年仅略有下降，降幅为2.9%。

一类在减少。另一类正加速冲入未知领域。

其影响远超直接受害者本身。心理学界与支持机构在与深度伪造受害者接触时发现，其心理创伤具有独特的严重性。与传统骚扰不同——受害者有时能够指认某个具体行为或入侵者——深度伪造受害者面对的是超现实的恐怖：他们的形象被陌生人武器化，对抗自己的意愿，而这些陌生人或许从未想过要对他们造成实质伤害——至少不是直接意图。这种侵害感无边无际，因为侵害确实如此。一张图片，在通勤火车上不经意的转发，或张贴在校园布告栏上，就可能成为数年虚构苦难的蓝图。

为何深度伪造的伤害如此不同

这两种犯罪之间的结构性差异，比表面数字所暗示的更为关键。非法拍摄需要物理上的接近。施害者必须与受害者在同一空间，携带监控设备，承担当场被捕的风险。深度伪造的制作几乎消除了所有这些障碍。

所需要的一切只是一张照片——社交媒体账号上的头像，或者网上随意分享的快照。韩国法律中对此罪行的表述" 허위영상물 편집·반포 “（编辑和传播虚假视频材料）听起来冷静而临床。但现实远非抽象。

为众多此类案件受害者代理的律师李恩伊（이은의）向媒体直言：人工智能技术大幅降低了制作性影像的门槛——而以往这需要直接接触受害者。一个人现在可以同时、规模化地制作针对多名受害者的内容，且从未与她们中的任何一人见过面。

正是这种可扩展性，将这一问题从犯罪问题转变为结构性问题。它还制造了一种有害的反馈循环：随着深度伪造工具愈发普及，潜在施害者的规模呈指数级扩大。曾经需要专业技术和专用软件的 niche 活动，已通过免费移动应用和开源模型实现了民主化。学习曲线已趋近于零。

还有仅开始浮现的次生效应。韩国的雇主和教育机构报告称，年轻女性提交在线资历或数字作品集的意愿日益降低，因为他们担心与其身份相关的伪造内容可能损害其职业声誉。一些大学已悄悄建议女学生避免在校园内拍照。这种寒蝉效应是真实存在的，即便在官方统计中难以量化。

平台之困

视频被删除之时，伤害并未停止。深度伪造内容通过海外平台传播，被复制、重新剪辑和反复上传。受害者始终承受着这样的认知：任何被举报删除的图片，都可能几周或几个月后以略微变形的形式在某处重现。

这与传统骚扰不同——传统骚扰的原始材料往往存在于某个固定位置。深度伪造内容天生具有病毒式传播和可变性的特征。每一张新副本都在加剧伤害。

韩国当局认识到这一趋势的严重性，于2024年10月修订了《性暴力处罚法》，将制作或传播深度伪造色情内容的最高刑期从五年提高至七年。这是一步必要的举措。但法律专家辩称，这仍不够深入。

在首尔处理过多起高关注度深度伪造案件的检察官崔敏正（최민정）指出，现行法律框架难以应对问题的跨国性质。托管这些内容的许多服务器位于韩国管辖范围之外。 facilitative 分发平台总部往往设在监管标准较弱的国家。即便在国内获得定罪，对受害者的实际影响仍然有限——内容持续流转，施害者经常通过虚拟专用网络或离岸基础设施进行操作。

平台问责缺口或许是最具决定性的一环失败。韩国立法者聚焦于刑事惩罚，而赋能内容分发的企业所面临的审查相对较轻。社交媒体平台依据自身的内容审核政策运作，这些政策差异巨大，且往往落后于深度伪造内容激增的速度。自动检测工具正在改进，但仍不完美，而人工审核流程又被海量内容压垮。

数据中的讽刺

韩国对此议题的报告中，暗含着一个令人不寒而栗的讽刺。所引用的资料将存储芯片价格飙升与深度伪造的激增并列提及——提醒人们，推动经济增长的半导体基础设施同样在为这些犯罪提供动力。人工智能算力的每一次进步，既带来了生产力提升，也催生了新型虐待手段。填满 판교 服务器机房的硬件，同样在硬盘里填满着伪造的亲密影像。

这种双面性并非偶然。支撑合法创意工具——电影剪辑、广告、学术研究——的生成对抗网络，只需最小程度的修改即可被重新利用。加速各行各业创新的开源生态，也确保了防护技术与破坏性技术同步扩散。

韩国的经历并非孤例，但确实走在前列。美国、欧盟和日本都面临相似的趋势，只是绝对量更低，立法回应也不那么引人注目。韩国实质上正在进行一次现实世界的压力测试，检验当人工智能能力超越法律和社会框架时会发生什么。

还有值得注意的经济维度。深度伪造黑市虽然与其他网络犯罪形式相比规模仍小，但正在增长。高丽大学的研究人员估计，一款流行的深度伪造制作应用每月可生成数万部伪造视频，每一部都代表一个潜在受害者和一起潜在法律案件。虐待的经济模式正在走向工业化。

接下来会发生什么

三种结果似乎不可避免。第一，数字将继续攀升。技术正变得更便宜、更易获取，而网上源图片的供应正在增长，而非萎缩。第二，现有刑罚将持续面临修订压力。随着公众意识提升，七年的最高刑期可能被证明不足。第三，平台问责将成为核心战场——不仅在韩国，而且在全球。

但还有一种值得关注的第四种可能：对抗技术的兴起。研究人员正在开发检测工具、水印标准和溯源追踪系统，这些有可能最终扭转天平。基于问题的真实性框架（Question-Based Authenticity framework），通过追溯数字内容的来源和修改历史来实现验证，就是一个例子。这些工具能否跑赢军备竞赛中生成端的发展，仍是一个开放性问题。

更深层的问题在于，单纯依靠法律刑罚能否应对一种技术演进速度超过立法的犯罪。韩国受害者已经在亲历人工智能能做到什么与法律能够惩罚什么之间的鸿沟。而在世界其他地区，在追上韩国之前，大约还有两年的时间——前提是它们选择去追。

韩国的数据并非预言。它是一面镜子。问题在于，我们是移开目光，还是从中学习。