人工智能、大数据、5G等新兴科技的发明都为社会发展增添了诸多蓬勃发展的动力，但是物极必反，其也给整个国家的安全带来严重威胁。在人工智能下进行深度学习，看似正常的科学领域分支，却在悄无声息中给深度伪造技术造成了可乘之机。立足于深度伪造兴起的背景与特点，通过深度剖析其在各类严重刑事犯罪中所充当的工具主义，揭示其给国家安全领域带来了诸多危险和社会挑战。在应对深度伪造犯罪的当下，严格贯彻落实总体国家安全观，需要加强研发预警检测技术，不断加强立法监管，在推进国际安全合作治理中强调共建国家安全共同体。
随着Web4.0技术的研发，在网络领域中的深度学习以及算法创新等方面都有所突破，人工智能技术也在第三次浪潮当中得到了更多新的启发。人工智能技术在新一轮的实施改革中迎来了发展契机，然而伴随着风险的逐步来临，深度伪造逐渐走近人们的视野。2019年1月，卡耐基国际和平研究所发表《国家如何应对深度伪造乱象》一文，明确指出深度伪造技术对政府、企业所造成的破坏是深远的，影响也是消极负面的。美国当局专门就深度伪造技术问题举行了听证会，足以表明深度伪造技术在社会发展变化中具有重要的深远影响。这对于深度伪造技术而言具有不可或缺的重要意义，但是苦于技术问题，一直未能引起美国高层的足够重视。通过对深度伪造技术兴起的背景和特点，深入分析其对国家的政治、经济、生态、文化等方面所带来的全新挑战，在进一步分析风险和应对挑战的同时，能够从中找寻出合理的应对对策。深度伪造这一概念最早出现在2017年底，名为“deepfakes”的用户在网上发布了一段拼接合成的不雅视频而备受关注。深度伪造就是深度学习（deeplearning）与伪造（fake）的集合体，利用人工智能技术加深对深度学习的人像合成技术应用。随着网络技术的蓬勃发展，深度伪造技术在视频、声音、文本和微表情等方面的深度合成技术已经十分成熟，达到了以假乱真的地步。深度伪造技术的背后就是对深度学习的进一步研究，以生成性对抗网络（GenerativeAdversarialNetwork，GAN）和卷积神经网络（ConvolutionalNeuralNetwork，CNN）为主要内容。而且对学习算法的相关数据越是深刻，那么数据在实际的应用方面就会更为真实，导致合成伪造出来的产品内容在逼真程度和仿真程度方面也就越高，但是所见的当事人究竟有没有做相关的事情，大家都是本着“眼见为实耳听为虚”的本能，来进行自我判断。视频伪造作为深度伪造技术的核心典型代表，其制作以假乱真的视频技术又被称之为人工智能换脸技术（AI face swap），即AI换脸。其利用技术生成相应的对抗网络或者卷积神经网络，在此基础上将所要模仿和伪造的人脸面部进行“嫁接”“移植”。但是要想形成完整的假视频，就需要把每一张拼接的图片进行技术处理之后，连接成完整的假视频，最后大家看到的就是经过技术处理之后的拼接视频。而这样的技术对于前期不断学习者而言，是不难做到的，因此有越来越多的AI换脸视频在网上流传。深度伪造的另一典型类型是音频伪造，就是利用“语音克隆”技术实现嫁接，此项技术最初是作为虚拟物品出现。基于此，针对语音克隆以说话者自适应（speaker adaption）和说话者编码（speaker encoding）作为典型代表，对伪造语音进行拼接。而且每个人的音调和声调的不同，说话者编码是利用技术对说话者的声音进行微调，在微调中不断调整所要模仿的声音类型，进而针对说话者的少量声音进行模仿和伪造，在不断模仿中找到声音的特性。尽管相互拼接与嫁接在视频和音频篡改中屡见不鲜，但是这并不包括对于其他音视频类型深度伪造。当前，深度伪造的主要技术支撑在于自然语言处理（Natural Language Processing，NLP）方面真假难辨，这主要是由于受到网络技术的限制和鉴定技术能力的制约，导致不法之徒利用自然语言处理技术生成伪造与视频、音频程度相当的文本。而微表情伪造以图像合成技术将被伪造对象的人脸进行瞬间抓拍，通过技术分析之后将人脸当中的面部微表情进行进一步处理，在近40种面部微表情中进一步判断并将人脸进行加工，进而实现对人脸面部微表情的深度伪造。其实，伪造技术之前就已经出现，只是传统伪造和人工智能伪造之间具有本质性区别。日常生活中的一些拼图技术软件，不需要有足够深度的学习算法功底就可以实现轻松嫁接，也正是基于此原因，伪造者可以在深度伪造中进一步实现想要伪造的内容。此类软件的技术门槛极低，并且在网上都可以搜索到相关的实际案例，在没有伪造成本的情况下可以轻松实现深度伪造。此外，随着计算技术的进一步扩散和伪造技术的程序化，对于深度伪造技术的学习已经不复存在。一些计算机爱好者在代码托管的网站上就可以看到一些伪造视频的学习素材。所以在当时很长一段时间就出现了，部分换脸软件的APP可供下载使用，并且在照片的作用下，就可以轻松实现转换和更替。换言之，谁掌握了这些软件和素材的制作与使用，就会对整个深度伪造技术的核心有所突破，而且这个过程就是一个技术含量很高的过程。由于深度伪造技术所涵盖的内容包括了视频、音频、文本、微表情等诸多常见内容在内的多个伪造类型，种类繁多情况下的深度伪造技术，就有可能会对整个国家的整体安全造成较大威胁，而且这种威胁也正是在这样的环境中进一步扩散。深度学习可以在很大程度上实现对深度伪造的延伸和拓展，在反复循环中可以实现自我学习。具体来讲，就是在目标较为明确的学习下，将伪造出来的假视频和音频等电子产品在内容上让人无法辨别真伪。当前，深度伪造主要集中在明星、政客以及其他公众人物当中，也正是由于公众可以随意获取到相关资料信息，最终成为了深度伪造的原材料。对于一般人而言，在深度伪造产品起初还可以通过肉眼观测到一些面部特征，但是随着这类技术的不断推进，在2017年的深度伪造技术较为成熟之时已经无法进行肉眼观测，都得益于算法与人工智能技术之间对深度学习的不断探索，在真假难辨中已经失去了自我。未来相当长一段时间里，无论是声音、微表情还是文本等特征的多种形态特征在伪造技术方面已经成为一个趋势，对于广大群众自我识别也会更加困难。在深度伪造技术的制作方面是对相当一部分人的猎奇心理得到了满足，许多网民用户朋友都在不断满足于自身的炫耀，让全世界人民都知道自己的面孔。互联网作为一个整体发展空间，已经在全球网络变化当中逐渐成为一个整体，也正是在这样的一个环境背景之下。深度伪造产品利用自身的强大影响范围，在形成的规模变化中逐渐成为一种新时代的网络空间发展载体。与此同时，伪造品越是影响范围广泛，所吸引的点击流量也就越大，如此一来就会出现快速传播，传播速度的快慢都会对国家安全的整体运行造成灾难性破坏。网络变化瞬息万变，在没有造成严重破坏的情况下，就已经造成了大范围的传播。域外网站上相继出现的大量AI换脸事件以及不雅视频拼接等突出问题，都带来一些消极的负面影响。企业作为社会主义市场经济的重要组成部分，深度伪造一旦发生在企业内部当中，会对企业自身的发展造成严重破坏，不利于企业在全球经济建设当中的良好形象。对于企业之间的商业竞争，一旦以深度伪造手段企图污蔑竞争对手，便有可能给对方带来更大的信任危机。针对企业高管以及相关管理人员的说话内容、对外介绍，通过搜集之后以合成手段等方式，制作成假视频、假音频以抹黑企业负责人的方式，不断破坏该企业的商业信誉，从而导致该公司的名誉受损。就未来而言，深度伪造技术如果通过制作假视频、假音频来故意诋毁对方企业，那么就会对企业形象造成严重破坏，不利于社会主义市场经济的发展。深度伪造在很大程度上会引发整个金融市场的动荡不安，并且为今后更多的不稳定发展因素提供了生存的土壤。例如，对于国内外的相关经济学者、专家和教授对今后一段时期内的经济发展走向所作出的判断，通常会被别有用心的深度伪造者，通过制作假视频、假音频的方式歪曲事实，误导大家，从而造成恐慌，会使得企业或者商家在名誉问题上严重受损，而当中的肇事元凶就会坐享其成。可见，由于受到所谓权威判断被伪造的严重影响直接导致了自身经济利益的严重受损。就深度伪造技术所实施的犯罪而言，其根本社会危机在于信任危机，人与人之间的社会问题，很多在于彼此之间的不信任所致，久而久之导致了人与人之间的人际关系交往陷入一种不利的影响当中。但是在人际交往当中，眼见为实耳听为虚的传统观点，依旧作为判断人际关系的一条重要依据，如果在这当中插入深度伪造，势必会严重影响整个社会的人际交往。换脸软件和变声软件的开发和应用，由于制作成本极低，直接导致了社会当中人际交往之间的困窘。假视频、假音频一旦流入社会，由于传播速度极快，直接导致了社会信任危机的蔓延和扩散，所谓的真相陷入一种万劫不复的万丈深渊，使得社会进入了“后真相时代”。社会主义民主法治建设遭受严重践踏，借贷、信贷和其他各种类型的业务都或将无法办理，失去信任之后的社会发展会处于一种停滞不前的状态，这就是深度伪造下的信任危机。深度伪造技术在自动生成高可信度的假视频和假音频之后，如果不加遏制的使用，那么就会给整个社会带来诸多麻烦。法律注重理论与实践之间的深度融合，一切以事实为根据，以法律为准绳，在案件事实和证据的支撑指引下，对社会主义法治建设的未来发展与建设带来生机。但在深度伪造技术的快速传播与发展下，在没有技术的支撑和指引下社会发展同样也会停滞不前，但就社会主义法治体系建设而言，深度伪造技术的出现也会带来相关的法律风险：一类是栽赃陷害他人。一类是提供虚假证据进行虚假诉讼。还有一类是在不断地转发、传播和扩散中无法找到始作俑者。技术飞快发展，在与时俱进中不断同世界接轨，那么对于深度伪造技术的识别和判断就会出现失误，案件真相和社会公平正义就会被深度伪造技术所埋没。鉴于如今人们在深度学习和深度伪造当中的灵活掌握和应用，应当进一步夯实和筑牢法律以便对深度伪造技术的严厉打击。国家安全依然面临着严重威胁，深度伪造技术在悄无声息中成为恐怖分子的秘密武器，但是其实施和攻击的目标是对整个国家造成严重社会恐慌，达到自身的不法目的，通过深度伪造技术进而达到恐怖主义目的。一旦被更多的恐怖分子所掌握了伪造的技术之后，对开展恐怖行动就会更加的便利，这其实是对社会主义美好发展和经济建设的严重践踏，不利于国家对暴恐犯罪活动的严厉打击。恐怖分子与深度伪造技术之间如果“强强联手”，那么就会对国家治理和社会治理的整体效果带来消极负面影响，在“网络恐怖主义”与“深度伪造恐怖主义”之间会出现更多的危害国家安全事件，这就需要在预防和遏制恐怖主义蔓延的同时，突出对深度伪造技术的控制和制止，否则必然会对国家安全造成严重威胁。基于深度伪造技术制作的假视频、假音频大范围传播，会对广大人民群众的生命健康安全造成严重威胁，人民群众生活在水深火热当中不利于自身健康发展。时至今日，每当广大人民群众看到公众人物受到严重威胁之后，对于个人安危的担心就会不断加深。所以随着深度伪造技术的持续发展，不法分子利用这些假视频和假音频实施违法的犯罪就会对广大人民群众的生命健康造成严重威胁。深度伪造技术可以实现轻松制作虚假视频、假音频并且为其他个人和组织提供虚假证据、证明，这就容易滋生违法犯罪行为的发生，导致公民的财产安全受到严重威胁。语音作为一个人发音的本质特征，尽管在生物特性方面具有很强的识别性，但是由于伪造技术的不断提升，那么对普通公民个人来讲很难进行识别。一些诈骗电话就会借机诈骗受害人，并且与被模仿对象没有本质性区别。在公安机关查获的一些案件当中，陆续出现并发现了不法分子利用假视频、假音频从事电信网络诈骗的刑事案件。从中可以看出，随着深度伪造技术的不断提升，对广大人民群众的生命财产安全造成了严重威胁和挑战。更有甚者在绑架勒索等案件中不断利用此技术对人民群众的切身财产实施诈骗，以至于受害人家属也受到了牵连，由于无法区分真假，又担心自己家人受到牵连，所以一度导致各类案件的频发，也对严厉打击犯罪和预防犯罪带来了阻力。深度伪造还容易对个人的名誉和精神产生严重消极负面影响。自深度伪造技术被移植和嫁接到不雅视频等事件中，在某种程度上已经成为诋毁他人的新型武器。由于被伪造的情境和场景都十分逼真，一度导致熟悉自己的亲朋好友都难以相信自己的眼睛，在一些极端案件中曾一度导致受害人精神焦虑甚至自杀。精神折磨是对一个人最大的痛苦，深度伪造技术的高超，对于整个国家、社会和国民来讲，都会造成更为严重的名誉损害。如果利用拼接和嫁接的方式肆意伪造他人头像进行诽谤或者侮辱，就会导致自己的家庭破裂，社会信任度降低。此外，也会对国家安全造成不同程度的威胁。目前，网络恶搞性质的假视频、假音频，都会造成对他人个人名誉的践踏。人工智能换脸技术，是深度学习和深度伪造之间的技术提炼，这样的技术很难破译。尽管在被伪造的人物当中，内容都是假的，但是都对公民个人的名誉和社会地位带来不利影响。每个人都生活在社会当中，并且扮演着不同的社会角色，而名誉往往代表着一种社会信任和地位，因此对于公民个人而言具有重要意义。深度伪造给国家安全带来的风险不次于传统的国家诋毁，对于国家安全造成的严重性和紧迫性，是各个国家面临的现实问题。一是要建立国家安全全球观。当前，科技发明日新月异，在一定程度上刺激着各个国家的发展理念。构建人类命运共同体需要各个国家之间的相互协作，那么在人工智能等先进技术的发展中就应当围绕国家和社会发展的本质进行全面交流与合作。人工智能对于一个国家的未来发展必不可少，同样对深度伪造技术的发展也提供了一定的便利，这些都对整个国家安全造成了严重威胁和挑战，那么就需要更加迫切的技术支持来引导各个部门之间的密切配合与相互支持，将各个国家之间的交往与合作提上议事日程。二是要政府在打击深度伪造行为中给予最大的帮助与支持。汇集警察、法庭以及科研技术人员加大在预警检测技术工具上的研发力度，不断提升对深度伪造技术的持续打击。要在检测技术方面提升打击力度，采取“以暴制暴”的方式，在蛛丝马迹中寻找差异，这对于防范和化解深度伪造技术而言具有划时代意义。三是政府要鼓励科技创新。在技术研发的同时将技术创新融入进去，充分发挥高等院校和科研院所对技术研发的攻坚作用，不断提高对非传统国家安全因素的打击与应对。一是针对深度伪造产品在生产主体当中的法律责任方面，要从源头上加大对刑事立法的推进。深度伪造技术本身就是要服务国家、社会和个人的，面对利用深度伪造技术发生的刑事案件，应当加大对刑事立法的推进力度。强化和约束政府官员自身道德和纪律作风，不要给别有用心之人留下可乘之机。二是对于网络媒体责任的监督与管理，在传播过程中要报道真实新闻内容，传递社会正能量。网络媒体的迅速发酵会对一个国家的制度理念带来根本影响，传播速度直接导致了局面的失控。网络世界如同社会发展一样，都是对国家经济和政治文明进步的重要影响因素。要在行政规制层面首先将深度伪造技术加以限制，即便是带有娱乐性质的深度伪造也要在明确告知的前提下开展，对于有可能产生政治风波的应当作出说明。要突出责任主体的承担，在超出行政规制之后，则有必要采取刑事立法手段加以推进对深度伪造技术的行业监管。三是要建立相应的应对机制，一旦发现有涉嫌深度伪造嫌疑的人员和部门之后，要尽可能地避免事态的扩大化。为此，政府部门要在国际交往中不断与自身国家利益相吻合，在确保技术允许和信息畅通的情况下，积极开展相关的合作与交流。一是要加大对本国公民的教育和积极引导，不断提升公民的自我防范意识，对于常见类型的深度伪造类型要做集中展示，防止群众上当受骗。各级党委和政府等部门应当在电视宣传、主题教育等环节当中不断提高自身防范意识，不要以过去传统的“眼见为实”或者“耳听为实”的形式判断，而是要在自我判断中，提高自身防范。在一些电信网络诈骗案件中，也时常会出现深度伪造的身影。二是要为公民提供更多的防范技巧。随着深度伪造技术的持续加深，对于一些案件信息的真假应当作出实质性判断。此时，就需要政府及其职能部门之间不断配合。加大科技研发和攻坚力度，为广大人民群众提供更多的技术支持，避免上当受骗和遭受更多的经济损失。三是要正确指引网络媒体多做正面报道。随着自媒体时代对深度伪造技术的扩散，人们可以通过一些社交网络或者自媒体进行收看以及传播扩散。基于此，深度伪造技术利用虚假视频、虚假音频等在扩散和传播的同时，就有可能会造成深度传播、扩散。因此，就需要引导和教育广大人民群众在无意识中识别真假，杜绝在阅读过程中成为“帮凶”。一是要将深度伪造纳入全球治理合作框架过程当中。深度伪造技术的更进一步发展，会对整个国家安全造成严重破坏，深度伪造产品的一度泛滥成为难以有效治理的瓶颈。深度伪造技术是对人工智能技术的翻版适用，域外一些国家明确指出，人工智能技术存在被滥用的风险，那么深度伪造技术就成为当中的典范。因此，国家要不断加深打击和预防深度伪造技术对国家社会发展的传播影响力，防止深度伪造技术的进一步蔓延和扩散。二是要加强在打击深度伪造技术方面的国际合作，特别是跨国犯罪和跨国恐怖主义犯罪等方面的打击力度。在西方国家看来，不法分子通过利用深度伪造技术实施违法犯罪行为是新型犯罪的一大趋势。而且这种趋势也在逐渐发展成为严厉打击危害国家安全的犯罪类型，加之不法分子利用深度伪造技术从事危害国家安全的行为。为有效应对该风险的严厉打击，应当采取对等的机制体制，以中国智慧突出对深度伪造技术的中国方案、中国治理。三是针对涉事企业之间的法律责任和社会责任，要加强对主体责任的严格落实和管控。当前，社交软件的开发和发展，使得受益人群越来越多，但是要警惕和提防由此而产生的消极负面影响。要加强各国之间的合作，防止出现更多假消息对国家发展的消极负面影响。总体国家安全观在预防应对深度伪造技术实施违法犯罪具有重要意义。总体国家安全观为进一步消灭深度伪造犯罪指明了方向和道路，避免出现更多、更大的不足现象发生。要提高对深度伪造事件的辨别意识和防范意识，这就为进一步发展和提升国家对打击深度伪造犯罪具有方向性指引，这对于维护国家安全和领土主权完整具有划时代意义。余定猛｜公安涉外法治人才培养现状与路径优化——以全球胜任力视角为切入
张碧珂 王雨晨｜论数字经济下经纪合同的分级签约制度
李秀梅｜营商环境法治化视野下的平台封禁反垄断规制研究
赵懿先｜海外利益安全治理发展演进及以东道国为视角的因应之策
上海市法学会官网
http://www.sls.org.cn
