摘要：当今时代人工智能发展迅速，应用广泛，但也带来了社会危害和犯罪风险。人工智能技术的飞速发展，在改变当代人的生活方式的同时也使信息和知识的生成方式发生转变，但技术暴露出的算法偏见、数据泄露、虚假内容生成、不当利用等安全风险也极易引发各类新型犯罪。为有效应对我国人工智能犯罪的新挑战，需补充完善现有法律规范，多渠道提升人工智能犯罪防范能力。

关键词：人工智能犯罪，犯罪预防，法律规制

人工智能（Artificial Intelligence，AI）属于计算机科学领域中的一种，旨在开发能够执行智能任务的系统。这些系统通过模拟人类智能的各种方面，如学习、推理、感知、理解、决策和交流，来完成各种任务。人工智能涉及到多个子领域，包括自主学习、深度学习、自然语言处理、计算机视觉等。人工智能的应用范围在当下已经十分广泛，包括智能语音助手、智能家居系统、自动驾驶系统、金融预测、医疗诊断等。

近年来，随着人工智能的突破性发展，全世界范围内的人工智能产品与软件如雨后春笋，以 ChatGPT 与DeepSeek 为代表的人工智能软件正在重塑生产和生活方式，并催生了社会危害和犯罪风险的迭代升级。在公安实践中，自2015 年起，已出现相关人员利用人工智能技术实施犯罪的案件，并且呈现逐年增长的趋势。在人工智能介入各类犯罪后，各类犯罪的治理难度与日俱增。因此，我国必须对人工智能带来的威胁与风险高度重视、严加防范，兼顾发展与犯罪治理，达到动态平衡。

一、人工智能犯罪概述

（一）人工智能犯罪定义

人工智能犯罪，即有人工智能技术介入的犯罪行为。当下已经存在或可能实现的人工智能犯罪主要分为两类：其一，“工具型”人工智能犯罪，即人类将人工智能技术作为工具，利用这一工具进行的犯罪行为，例如使用人工智能工具或借助人工智能技术实施诈骗、制作传播污秽物品等犯罪。其二，“对象型”人工智能犯罪，指犯罪分子把人工智能系统当作其犯罪目标，通过破坏、侵入等手段，使其不能够正常运作，从而实现犯罪分子的犯罪意图。值得一提的是，以人工智能作为犯罪对象并不排除同时将其他人工智能作为犯罪的手段和工具。因此，本文主要针对“工具型”、“对象型”两种人工智能犯罪行为的规制与治理展开论述。

（二）人工智能犯罪常见类型

关于目前全球范围内已经存在的人工智能犯罪，犯罪频率最高、影响最大的主要为以下3 类案件：

1.诈骗类。

伴随着生成式人工智能模型的发展，深度伪造技术持续迭代，利用人工智能伪造的内容愈发逼真。犯罪分子借助技术伪造出视频、图片及声音等虚假内容，骗取受害者的信任后实施诈骗，或是利用伪造的信息进行勒索等犯罪活动，给受害者造成巨大损失。例如，2024 年 2 月某跨国公司香港分部职员，收到英国总部要求进行视频会议，视频中对方都显示了与以往相同的容貌，职员根据会议指令前后转账了15 次，共计 2 亿港元，所谓的视频会议中，只受害者一人为“真人”，其余所谓参会人员，全部是经过 AI 换脸后的诈骗人员。

2.侵犯公民个人信息类。

“AI 换脸”等技术极易被人利用，造成侵犯公民个人信息的犯罪行为。例如，2021 年虞某以牟利为目的，在未取得被编辑人同意的情况下，利用“AI 换脸”软件，将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播并获利。2023 年11 月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6 万元。

3.网络攻击类。

网络攻击类人工智能犯罪又可依据前述定义分为两种类型：

其一，“工具型”犯罪，即犯罪分子借助人工智能攻击他人系统。攻击者可以使用人工智能技术自动收集被攻击者的身份、社交关系等社会工程学信息，自动生成恶意软件实施网络攻击。如2023 年 5 月，日本东京的智慧城市网络遭遇了人工智能驱动的勒索软件攻击，导致东京的地铁系统和交通信号灯系统瘫痪，造成严重的交通拥堵。

其二，“对象型”犯罪，即犯罪分子将其他人工智能系统作为攻击目标，以达成自身犯罪目的。近些年热度持续升高的自动驾驶技术，非常容易成为不法分子的攻击对象，带来巨大利益的同时，也给人类带来了潜在的风险。不法分子完全可以通过远程手段，侵入一家或者数家自动驾驶系统公司的系统，达到一种自我满足，继而可能引发一系列的犯罪行为。这种侵入人工智能系统的行为并不完全都是为了达到某种杀人等犯罪目的，这种人工智能系统有时候本身就具有价值，受到法律的保护，这种“对象型”人工智能犯罪与“工具型”人工智能犯罪并不完全相同。

（三）人工智能犯罪特点

相较于传统犯罪，人工智能犯罪具有以下4 个特点：

1.犯罪成本更低。

人工智能模型的智能化程度越来越高，由人工智能驱动的网络攻击犯罪可进行自动化漏洞扫描，自动化地与受害者对话实施诈骗，自动化生成个性化的钓鱼邮件，自动化生成虚假信息并传播等。犯罪分子只需将要求告知人工智能模型，人工智能即可智能地执行相应任务，大大降低犯罪实施的难度，减少犯罪成本。

2.欺骗性更强。

与传统犯罪相比，利用人工智能技术生成内容实施的犯罪活动真实性更强，受害人难以识别出犯罪行为。深度伪造诈骗案例中，犯罪分子利用人工智能进行换脸、换音，冒充他人进行视频、电话诈骗，真实度越来越高，肉眼难以辨别真伪，普通人难以察觉。

3.行为过程的不确定性风险更大。

人工智能算法具有多样性、复杂性和“黑箱”等特性导致一些犯罪行为难以被及时发现或追踪，不确定性相比传统犯罪更高。例如，一个人工智能驱动的金融诈骗行为可能通过复杂的算法模式进行诈骗，传统的侦查手段很难理解其工作原理，甚至无法预测其下一步行动；人工智能生成的深度合成视频、虚假新闻、恶意代码等内容，很难追溯到源头。

二、人工智能犯罪治理的必要性与我国面临的挑战

（一）人工智能犯罪治理的必要性

随着人工智能技术的不断成熟和普及，越来越多的犯罪分子开始利用这一高科技手段进行犯罪活动。奇安信集团《2024 人工智能安全报告》指出，2023 年基于 AI 的深度伪造欺诈暴增了 300% ，人脸识别技术面临崩盘危机，而借助 AI 钓鱼邮件的欺诈有效率从 0.69%增加到 20.9%c 。在可预见的未来，利用人工智能进行犯罪的案件会越来越多，给社会治理带来严峻挑战。与此同时，人工智能的模型算法还在不断加快迭代升级。一方面，犯罪分子能够不断持续优化算法、提高模型性能，使得犯罪手段更加智能化、隐蔽化。另一方面，这种技术的快速更迭也使犯罪门槛持续降低。随着人工智能技术发展和普及，犯罪变得更加多样且高效。例如，ChatGPT可以辅助实现网络攻击或实施扫描，编写恶意代码和诈骗脚本；生成式人工智能可实现单张照片、秒级音频生成高逼真的“AI 换脸”以实施诈骗。

在当前国际形式下，我国的发展离不开人工智能，要在享受该技术带来的经济效益和科技进步成果的同时，尽可能避免人工智能给社会和个人带来的破坏和威胁。因此，人工智能犯罪的治理问题具有必要性和紧迫性。

（二）我国人工智能犯罪治理面临的挑战

目前，我国已经发布了一系列法律和政策，走出了一条探索人工智能犯罪治理的法治路径。其中，2023 年8 月实施的《生成式人工智能服务管理暂行办法》是中国首个针对生成式人工智能的专门法规，要求提供生成式人工智能服务的公司确保技术安全和可靠，禁止人工智能被用于虚假信息的传播、诈骗等违法活动。2024 年 9月全国网络安全标准化技术委员会发布了《人工智能安全治理框架》，明确了人工智能安全治理的原则，对人工智能的安全风险进行了分类，提出了相应的技术应对措施和综合治理措施。以上说明我国在人工智能犯罪治理方面已经取得了一定成效，但随着人工智能技术的演进衍生出更多复杂多变的新型风险，我们必须防范化解所面临的挑战。

1.人工智能安全法律法规尚不完善。

我国在人工智能立法上进行了有益探索，通过多层级、地域化、领域化立法初步构建了人工智能法律治理框架，但仍存在立法层级低、立法规定落后、体系衔接不畅等问题。2021 年起，我国通过出台多部相关政策法规已对生成式人工智能相关技术应用进行了系统规范，但责任认定与归结等问题不够明确，操作性欠缺架。当前，我国人工智能安全相关规制条款分散在不同层级的法律法规中，缺乏统一的监管法律，难以形成治理合力。例如，对使用人工智能技术制作传播网络谣言，仍需使用现行民法中侵犯名誉权、诽谤罪等及刑法中诈骗罪、帮助信息网络犯罪活动罪等法条进行起诉。

2.人工智能监管措施仍有较大缺口。

人工智能技术存在着较大的不确定性和不可控性，应该接受严格的安全评估，需要监管来确保这些安全措施得以实施。随着人工智能技术的快速发展，尤其是生成式人工智能的滥用现象日益严重，对现有的监管方式带来了重大挑战。以合成视频或合成语音为例，现有大模型生成工具提高了视频和语音生成内容的合理性和逼真度，降低了虚假信息的生成成本，加大了公共安全领域风险治理难度。目前，大模型测评管控及人工智能犯罪风险评估等领域尚未形成成熟的监管措施，随着技术的进一步发展，人工智能技术模拟真实物理世界的能力将进一步增强，监管措施存在明显的滞后性，难以适用新的安全防范要求，需加强技术应对。

三、国外人工智能犯罪治理的经验梳理

鉴于人工智能犯罪高发态势，世界各国在积极拥抱人工智能技术的同时，也在加紧探索人工智能犯罪治理方法，笔者重点梳理了美国、欧盟、新加坡三个国家和地区完善规制人工智能犯罪立法的相关情况。

（一）美国的人工智能法规

美国的人工智能法律较为宽松，注重激励创新，以利于抢占科技制高点。美国在人工智能治理立法方面倾向于较为宽松和灵活的监管方式，强调创新和竞争力，整体上更侧重于行业自律和非强制性指导原则。同时，美国也在逐步加强监管力度，特别是在算法歧视和数据隐私方面进行规制。2018 年至今，美国相继出台了《禁止恶意“深度伪造”法案》《“深度伪造”责任法案》《“深度伪造”报告法案》，通过一系列立法对人工智能犯罪，特别是涉及深度伪造技术的犯罪，进行了防范。

（二）欧盟的人工智能法律治理

欧盟对人工智能的法律治理较为慎重，通过较严格的法规预防人工智能技术潜在的社会危害。欧盟侧重于通过全面立法来保护公民权利和建立高标准的监管环境，倾向于通过立法实现对人工智能的监管。2021 年4 月，欧盟发布《关于制定人工智能统一规则并修订某些欧盟立法的条例》，这是全球首个全面的人工智能法律框架。2024 年 3 月，欧盟正式发布全球首个人工智能治理综合性法律《人工智能法案》，该法案基于风险预防的理念，为人工智能构建了一套覆盖全过程的风险规制体系，是欧盟推进人工智能治理、抢占全球人工智能竞争高地的关键举措。

（三）新加坡的人工智能立法

2019 年，新加坡推出亚洲首部《人工智能治理模型框架》。该框架以两个基本原则为指导，促进对人工智能的信任和理解，一是确保人工智能决策过程是可解释、透明、公平的，二是人工智能解决方案应当“以人为本”，保护人类福祉和安全是设计、开发和使用人工智能的首要考量。框架建议企业、组织将人工智能安全治理融入内部治理体系，明确安全责任人，健全风险管控机制，强化安全意识培训，并明确人类参与人工智能增强决策的程度，努力将人工智能自动化决策可能导致的风险降至最低。2023 年 5 月，新加坡通信和信息部发布《在人工智能系统中使用个人数据的咨询指南》，支持生成式人工智能技术负责任地开发和部署，以应对类ChatGPT 生成式人工智能带来的数据安全风险，。

四、我国人工智能犯罪治理的方式与策略

（一）加快建立完善的人工智能相关法律规制

针对人工智能犯罪，我国势必要制定更加的专门性法律，应当借鉴美国和欧盟的前瞻性应对策略，早期发展阶段我们要更加关注技术创新，等到技术成熟期和大规模应用时可以实行更加严格的监管，并尽可能避免人工智能带来负面的社会影响，通过推动法律法规适应人工智能技术的发展和应用场景变化，采取动态的法律更新机制，以适应新兴技术。具体上，对人工智能的开发者、提供商、使用者等相关方，要建立相应的责任追究机制，完善处罚与追责体系；对于现行法律规定规制不足或无法规制的涉人工智能犯罪，要采取完善相关司法解释、调整相关犯罪的构成要件及设立新罪名的法律应对策略。

（二）完善人工智能系统分级监管机制

参照网络安全等级保护体系，创设动态的人工智能分级分类监管机制，根据生成式人工智能服务的风险高低进行分类分级监管；并根据生成式人工智能服务适用的不同领域进行行业部门监管。分级分类监管和行业部门监管 2 种监管政策相辅相成，共同促进人工智能的体系化监管进一步加强。此外，还要加强人工智能安全相关信息的收集和分析工作，按照危害程度、影响范围等因素对人工智能安全事件进行分级，及时向相关企事业单位通报预警信息，制定相应的应急预案并定期组织演练，以应对人工智能发展中的各类安全风险。

（三）通过人工智能安全教育宣传提升公众认知能力

我国应当加大人工智能安全教育与宣传力度，借鉴全民反诈宣传模式，各省、市级执法单位应当依托知识科普和短视频平台等，提高公众安全意识，使公众能有效识别人工智能犯罪形式、保护个人信息、防范智能攻击，提升辨别能力。此外，还应当聚焦数据安全、网络谣言等热点问题，通过线上线下相结合的方式宣传人工智能安全法律法规、政策文件、国家标准等内容，及时通报公安机关打击人工智能犯罪、加强人工智能安全监管的工作成效，提升公众对人工智能安全观和相关法律法规的认识。

五、结语

面对人工智能的挑战，在保护人类利益这一命题上，刑法无疑是最后的一道防线。因此，我国必须要随着时代、社会生产力的变化而不断调整其内容，适应时代的需要。人工智能犯罪的出现要求刑法必须具有前瞻性，规制已有风险的同时也预防潜在风险，最终达到惩罚犯罪、保护法益的目的。

参考文献

【1】高建新,孙锦平,蔡瑜坤,等.人工智能犯罪与我国对策研究[J].中国科学院院刊,2025,40(3):408-418.

【2】朱新超.涉人工智能犯罪的刑法规制研究[D]:[硕士学位论文].哈尔滨: 哈尔滨商业大学,2022.

【3】李天智.涉人工智能犯罪的刑法规制[J].法学, 2024, 12(5):2746-2751

【4】郑秋伟,李前进,程晓东.人工智能驱推思想政治教育变革：逻辑、趋向与策略[J].教育理论与实践,2024,44(15):31-36.

【5】杨延超.大模型时代人工智能犯罪如何治理？[J].群言,2023,(7):32-34.

【6】罗昕.聊天机器人的网络传播生态风险及其治理——以 ChatGPT 为例[J].青年记者,2023,(7):91-94.

【7】王彩玉,梁立增.新加坡人工智能犯罪生态治理的实践与探索[J].现代世界警察,2024,(1):53-61作者简介:

作者简介：曾旺（1999—），男，汉族，湖北荆州人,硕士研究生在读，研究方向（数字法学），单位，