韩国冷库谋杀案暗示AI辅助犯罪浪潮来临
韩国一起预谋谋杀案揭示了生成式AI如何可能被用于犯罪规划,凸显了AI安全政策与现实滥用之间的巨大鸿沟。
冰冻的尸体与AI阴影
京畿道坡州一家咖啡馆的冷藏库里发现了一具女尸。死者是一名60岁女子,遗体已被冻僵。嫌疑人是一名30多岁男子,据称在他假造的礼品券被对方识破毫无价值后,他杀害了她。这起罪行听起来像悬疑小说中的情节,但令人不寒而栗的细节不仅仅在于暴行本身——而是人工智能可能曾协助谋划此案的可能性。
律师和调查人员仍在审查这起谋杀是否系预谋犯罪。在YouTube上分析该案的法律专家朴正光(音)认为,嫌疑人的行为——提前一周租用冷库、关闭咖啡馆、藏匿尸体——表明这是一起精心策划的阴谋。如果被证实,他可能面临终身监禁,而非冲动杀人案中预期的25至30年刑期。
但更令人不安的问题萦绕不去:生成式人工智能是否曾指引他?警方报告尚未确认使用了AI,但《邮便经济》一文的记录显示,嫌疑人可能借助AI工具研究过尸体处置方式。这并非纯粹的猜测。在整个亚洲,调查人员已经开始看到人工智能被用于从网络钓鱼到炸弹制作教程等各个方面。作为全球AI应用领域的领导者,韩国如今正面临其主导地位带来的阴暗面。
谁获益,谁受损
在这起案件中,受害者失去了生命。嫌疑人可能失去数十年自由。但真正的赢家和输家范围更广。
开发这些AI模型的技术公司正面临阻止滥用的压力。它们的安全团队日夜不停地筛选危险查询,但罪犯总能找到绕过手段——使用加密通讯软件、化名,或转向内容过滤较松的外国平台。每拦截一条有害提示,就有几十条溜过去。这家咖啡馆店主据称利用AI进行犯罪研究的案例,正是这些工具如何轻易被武器化的鲜明写照。
监管者正在节节败退。韩国拥有世界上最严格的AI伦理准则之一,包括禁止生成非法内容的规定。然而执法却断断续续。韩国2024年通过的AI安全法侧重于透明度和偏见问题,而非恶意使用的实时监控。与此同时,罪犯以代码的速度行动。政策与实践之间的差距正在拉大。
普通民众正在丧失信任。当AI被视为可以辅助策划谋杀的工具时,针对该技术本身的反弹声浪日益高涨。这不仅仅是犯罪问题——它关乎社会信心。每一起备受瞩目的案件都在侵蚀这种信任,使得合法企业在缺乏 scrutiny 的情况下更难运营。
韩国监管的空白
韩国对AI辅助犯罪的回应仍在演进中。2023年,政府宣布计划建立一个AI监管机构,但由于预算争议,该计划至今悬而未决。批评人士称,韩国在将法律框架适应技术变革步伐方面过于迟缓。现有的计算机欺诈和妨害司法法律并未专门针对AI生成的犯罪指导。
坡州案件凸显了这一空白。如果AI确实被用于研究尸体处置,检察官必须决定是应以谋杀罪、诈骗罪起诉嫌疑人,还是以一项新的罪名——利用AI协助犯罪——起诉。后者在韩国法律中尚不存在。其他国家正在探索类似指控——法国已提议对AI滥用进行处罚,美国也在辩论相关联邦法案——但韩国正落后。
即使法律赶上,执法依然困难重重。AI模型在全球范围内托管,服务器分布在不同司法管辖区。将嫌疑人的手机查询追踪到特定的模型提供商是一件复杂的事情。而提供商则辩称他们只是提供了工具,就像商店里出售的一把刀。他们认为责任在于使用者。
然而,当工具被设计成模拟人类推理时,这一类比便站不住脚了。AI不仅仅是检索信息;它会综合、适配,有时甚至会鼓励用户进一步探索。一个简单的提示如"如何隐藏尸体",可能引向关于保存、选址和清理的详细步骤。这不是中立的建议——这是一份行动指南。
接下来会发生什么
坡州谋杀案很可能成为韩国司法体系中的一个标杆案例。法院将就如何将AI辅助规划作为证据来加以处理。如果嫌疑人供认使用了AI,将为未来案件树立先例。检察官还可能将矛头指向AI提供商,指控它们未能实施充分的保障措施。
对于行业而言,压力正在加大。模型开发者正面临加强内容过滤的审视,但尚无银弹。过度拦截可能扼杀正当使用;不足拦截则可能造成伤害。安全与可及性之间的紧张关系正是AI治理的核心所在。
在国际层面,此案可能加速全球协调AI犯罪预防的努力。经济合作与发展组织(OECD)和联合国等机构正在起草指南,但如果没有具有约束力的协议,跨国合作仍然薄弱。鉴于其技术领导地位,韩国可能会推动制定更强的国际标准。
更大的图景
这不仅仅是韩国的问题。AI辅助犯罪是全球性的威胁。从深度伪造欺诈到自动化黑客攻击,相关工具正变得越来越普及。坡州案件是更大转变的一个缩影:AI正成为一把双刃剑,既切割创新,也切割危险。
受害者遇害的那间冷库如今已成为调查现场。但真正的战场是数字化的。随着AI不断演进,社会必须决定如何在自由与安全之间取得平衡。法律正在落后。技术已经超前。而正是在这之间的空白地带,犯罪分子正在茁壮成长。
问题不再是AI能否被用于犯罪——它已经在被使用了。问题是,政府和科技企业能否在更多生命因算法而消逝之前,关闭这扇窗口。