随着人工智能技术的飞速进步，我们已经迈入了大模型时代，全世界许多科研机构和企业都在积极探索和发展大模型。以ChatGPT-4等大模型为代表的生成式人工智能的热度在全球蔓延，这标志着人工智能2.0时代的到来。

大模型的技术特征主要体现在海量的参数和复杂的架构上。例如，目前主流的大模型参数量可达到数万亿规模，这种大规模的模型具有强大的学习和理解能力，为人工智能带来了革命性变革。依托于此，深度学习技术的准确率不断取得突破，机器对自然语言的理解能力也在不断提升。

大模型时代的到来，对农业、工业和服务业产生了革命性的影响。在农业领域，大模型被应用于农作物产量预测，帮助农民及时发现并解决问题，保持作物的健康和高产。数字农业领域也在探索大模型的应用，如无人化、自动化、大数据量、高通量等。在工业领域，大模型被用于优化生产效率，改变传统生产方式，推动制造业的数字化转型。机器人领域也在探索大模型的应用，如机器人规划、控制、导航等。服务业领域将大模型与知识库结合，打造7×24小时在线的超级员工，提供更优质的客户服务。

然而，在大模型时代，人工智能不仅被视为新型生产力，也被不法分子用作新型犯罪工具，主要表现形式有以下几种：第一，人工智能用于网络攻击。大模型的学习和理解能力使黑客可以设计出更复杂、更难以防范的网络攻击手段，对个人和企业的网络安全构成威胁。例如，利用人工智能技术，黑客可以进行精准的钓鱼攻击，通过模拟真实的人类交流方式，诱导用户点击恶意链接或提供敏感信息。第二，用于制造深度伪造内容，如伪造视频和音频。这种技术可以生成极其逼真的虚假内容，对社会公众造成误导，甚至被用于诈骗活动，例如假冒名人的视频或音频进行诈骗。第三，用于进行非法监控。通过人工智能技术，犯罪分子可以对公众进行大规模监控，侵犯公民的隐私权。例如，利用面部识别技术，犯罪分子可以在公共场所进行非法监控，收集公众的个人信息。

这些例子表明，大模型时代的人工智能技术虽然推动了生产力的巨大发展，但也带来了新的犯罪威胁。因此，需要在推动人工智能技术发展的同时加强监管，防止其被用于非法活动。

大模型时代人工智能犯罪的特征

在大模型时代，人工智能技术的广泛应用催生了全新的犯罪形态，这些犯罪可能涉及人身安全、财产权益和金融市场的稳定，甚至对公共安全构成威胁。这些可能出现的犯罪形态有其独特特征。

第一，隐蔽性更强。人工智能犯罪的执行者、执行方式以及执行过程的隐蔽性都得到了增强。犯罪者可以通过人工智能技术进行远程操作，甚至可以利用加密技术来隐藏身份，使得犯罪行为更加难以被侦查和追踪。例如，犯罪者可以利用人工智能技术进行网络攻击，而无须亲自参与。此外，犯罪者可以通过复杂的算法和程序对犯罪行为进行精细化、智能化的设计，这进一步提高了犯罪的隐蔽性。

第二，犯罪成本降低。人工智能犯罪的物质成本和时间成本都大大降低，犯罪者只需利用现有的人工智能技术和大数据，就能进行大规模的犯罪活动。例如，利用人工智能技术进行换脸诈骗，这种犯罪模型可以同时应用于很多人，大大降低了犯罪物质成本。人工智能技术的发展也使得犯罪者可以通过自动化的方式，大规模、高效率地进行犯罪活动，犯罪的时间成本被进一步降低。

第三，破坏性极大。人工智能犯罪的影响范围和影响程度都在极大地扩大，可能对整个社会的安全和稳定构成威胁。例如，人工智能技术可能被用于制造和控制无人机或其他自动化设备进行恐怖活动或大规模破坏。此外，犯罪者也可以通过大数据和算法对社会的薄弱环节进行精准打击，从而造成更大范围、更深层次的破坏。

总的来说，大模型时代的人工智能犯罪具有隐蔽性强、成本低和破坏性大的特点。这些特点使其更加难以防范，对社会的安全和稳定构成了更大的威胁。因此，需要加强对人工智能技术的监管，以防止其被用于危害公共安全的活动。

人工智能犯罪治理的既有经验

面对人工智能技术被用于犯罪活动的挑战，欧美等国采取了一系列措施，涵盖立法、监管和政策制定等多个方面，旨在确保人工智能的安全使用、防止滥用，保护公民的基本权利，并促进人工智能的投资和创新。

第一，立法和监管措施。2019年美国通过了《自动程序披露和问责法》，强制数字平台公开披露其使用“旨在在线复制人类活动的自动化软件程序或过程”的情况。2022年2月，部分美国国会议员围绕算法失能侵权提出了制定《算法责任法案》的构想，要求自动化决策系统具有更高的透明度，并建立问责制。2021年4月欧盟发布了《关于制定人工智能统一规则并修订某些欧盟立法的条例》，这是全球首个全面的人工智能法律框架。为了进一步加强网络和信息系统的安全，欧盟在2022年12月通过了《关于在欧盟全境实施高水平网络安全措施的指令》和《数字运营弹性法案》。欧盟《人工智能法（草案）》建立了针对高风险人工智能系统的风险预防机制，以保护自然人的安全、健康及其享有的欧盟宪章规定的基本权利。

第二，政策制定和实施。美国白宫在2022年10月发布了《人工智能权利法案蓝图：让自动化系统为美国人民服务》。这份文件旨在“指导自动化系统的设计、开发和部署，保护美国公民权利”。

第三，研究和探索。美国联邦贸易委员会正在研究生成式人工智能可能加剧诈骗和欺诈的问题，以便更好地理解和应对这种新的犯罪形式。欧盟正在积极探索人工智能的监管模式，如推出监管沙盒。

第四，国际合作。美国和欧盟已经开始在人工智能治理方面进行合作，并推动全球人工智能治理的进程，例如，美国和欧盟都是“全球人工智能伙伴关系”的成员。

总的来说，在面对人工智能犯罪的挑战时，各国需要加强合作，共同制定和实施有效的人工智能治理策略。

我国人工智能犯罪治理体系的建构

在大模型时代，面对人工智能犯罪的挑战，我国有必要构建相应的治理体系，以确保人工智能技术的健康发展和安全应用。治理体系的构建主要应围绕三个原则、三个要素和三个步骤展开。

首先，有必要坚持产业发展、权利保护和伦理考量这三个原则。这三个原则是我国人工智能犯罪治理体系的基石。产业发展原则强调，不能因为犯罪的存在就全面禁止人工智能的发展，相反，应在保护公民权利和考虑伦理问题的同时推动人工智能产业的健康发展。权利保护原则要求，在推动人工智能技术的应用时必须充分保护公民的基本权利，包括隐私权、知情权和选择权等。伦理考量原则则要求，在人工智能的研发和应用过程中，始终坚持人本主义精神，尊重人的尊严和价值，防止人工智能技术的滥用。

其次，有必要关注算法、数据和算力这三个要素。这三个要素是人工智能技术的核心组成部分，也是人工智能犯罪的主要工具。因此，对这三个要素的有效监管，是防止和打击人工智能犯罪的关键。在算法方面，需要监管其研发过程，确保公正、公平，防止算法歧视和算法暴力等问题。在数据方面，需要监管数据的收集和使用，保护公民的隐私，防止数据泄露和数据滥用等问题。在算力方面，需要监管计算资源的分配和使用，防止其被用于非法目的，如网络攻击、虚假信息传播等。

最后，有必要采取三个步骤构建有效的人工智能犯罪治理体系。

第一，提升公众对人工智能犯罪的认识。这一步骤的核心是通过教育和宣传普及人工智能知识，提醒公众注意网络安全、防范人工智能犯罪，包括在学校教育中加入相关课程，在社区、企事业单位开展科普活动等。据报道，我国已经在多所大学开设了人工智能专业，这是提高公众人工智能素养的重要一环。此外，也需要加强网络安全教育，提高公众的网络安全意识，教会公众如何识别网络诈骗、保护个人信息、防止网络攻击等。

第二，利用人工智能技术进行犯罪预防和侦破。这一步骤的关键是用人工智能治理人工智能，即通过人工智能技术，提高人工智能犯罪的发现和处置效率。有必要建立人工智能犯罪报告和处置系统，利用人工智能技术进行大数据分析和预警，及时发现和处理。同时，也需要建立犯罪数据库，收集和分析人工智能犯罪的案例，为防范其犯罪提供数据支持。

第三，加强国际合作，共同应对人工智能犯罪的挑战。在全球化的背景下，人工智能犯罪往往具有跨国性，因此需要各国共同合作，共同应对。有必要与其他国家的政府、研究机构、企业等进行深入的交流和合作，共享人工智能犯罪的研究成果和治理经验，共同研究制定人工智能犯罪的国际规则和标准。

总的来说，我国在大模型时代建构人工智能犯罪治理体系，需要在法律、技术、伦理等多个层面进行深入的研究和探讨。只有这样，才能成功应对人工智能犯罪的挑战，实现我国的人工智能治理目标。

（作者单位：中国社会科学院法学研究所）