我的位置: 上观号 > 上海市法学会 > 文章详情

唐风云|暗黑模式规制:从个人信息保护到数字平台治理

转自:上海市法学会 2025-07-24 09:31:28

欧盟和美国针对数字平台暗黑模式的治理实践为我国个人信息保护法的实施和数字平台治理的实践带来了一个全新概念,对于数字平台治理中告知同意规则的实践危机的缓解、数字平台的个人信息收集行为和经营行为的规范、数字经济平稳健康发展目标的实现都具有重要意义。据此,有必要在个人信息保护法领域引入暗黑模式概念,进一步引申适用至数字平台治理的其他方面,并配以行业自律、法律责任分配以及惩罚和声誉机制三大管理机制,形成规范数字平台个人信息收集行为和经营行为的内外合力。

一、问题的提出

坐拥大量数据的平台不仅构成数字经济的运行中心,同时也作为数字经济时代一个强势的市场主体,不断重塑数字经济时代的人、社会、市场及其相互关系。作为数字平台运行逻辑和营利方式的基础燃料的用户个人信息,也在这一过程中遭受着平台经济下潜在的无形伤害,在可预见的未来,这种伤害可能将蔓延至其他层面。对于数字平台利用其优势地位,通过暗黑模式收集用户个人信息的行为,欧盟《数字服务法》(以下简称DSA)、美国《联邦贸易委员会法案》(以下简称FTC Act)与《线上用户欺骗性体验减少法》(以下简称the DETOUR Act)等域外法律法规进行了专项规制,为我国平台治理,特别是规范平台用户个人信息收集行为提供了新的角度和思路。

总体而言,暗黑模式主要指一些通过隐藏关键信息或者使用特殊技术手段使用户出现认知偏差并做出非理性行为的网络产品。具体到用户个人信息收集的角度,则主要指数字平台在处理用户个人信息前依法获取同意时,可能采取的一系列具有心理暗示、情绪操纵特质,并能干扰用户决策从而诱导其做出非理性且有利于平台选择的人机交互(以下简称HCI)界面设计。这种设计既可能用于用户个人信息收集,也可能用于平台运营的其他方面。而暗黑模式的规制则意在通过各种方式阻止数字平台采用这些设计,以达到用户个人信息保护,规范平台经营和竞争行为的目的。

规制暗黑模式尤为必要,究其缘由:一方面,在用户个人信息收集阶段采用暗黑模式存在利用用户对冗长、充斥专业术语且难以阅读的隐私政策阅读意愿不足的现状从而大规模非法收集用户个人信息的非正当目的,同时也引发了平台损害用户合法权利以及平台间无序竞争的次生性危害;另一方面,大量暗黑模式设计实际象征着数字时代“人”主体性的弱化,构成平台经济背景下一大伦理危机。然而,目前难以在我国现有法律体系内对暗黑模式进行针对性规制,即使有部分行政法规、标准和规范性文件注意到了产品设计对于个人信息保护的影响并给出了对应方案,但仍旧存在各种问题。由于对规制暗黑模式重要性的认知缺失,我国目前对其的规制没有上升到法律层面,对此也没有形成科学、可操作的法律规范体系,有必要对此加以研究以规范平台个人信息收集和平台运营行为,实现数字平台的良好治理。

二、现有暗黑模式规制框架的适用困境

暗黑模式主要是指用于操纵用户的一种HCI设计。根据Kelly等人的研究,主要的暗黑模式包括完全阻碍、临时阻碍、故意混淆、引诱用户重新考虑和后果夸大等。同时,也有人基于暗黑模式的不同强度和内容,给出了“轻度黑模式”“重度黑模式”以及“基于界面的黑模式”和“基于内容的黑模式”的分类。

无论对暗黑模式进行何种程度的细化分类,不难发现的是在(平台经济下)用户个人信息保护领域,暗黑模式最根本的特征是对用户自主性的减损。在此之下,其可能的表征还包含对用户进行“确认羞辱”“切换诱饵”“误导”等以达到迫使用户做出未必利己但一定利于平台的选择的目的。在暗黑模式下,互联网架构环境已经成为攻击用户的一种武器,用户此时面临的是选择假象,其最终选择是在平台对其的心理操纵和其他变相形式下做出的。简言之,无论暗黑模式以何种形式出现,其运行逻辑均为通过各种方式减损用户自主性,以达到误导用户做出对平台有利操作的目的,只是其通常通过限制用户选择和操纵用户接受的信息流的方式实现。数字平台采用暗黑模式收集用户个人信息当然不具有正当性,需要对其加以针对性规范。

(一)
我国个人信息保护法下的暗黑模式规制框架

个人信息保护法通过告知同意规则、最小必要原则、个人信息删除权等制度,构建了一个相对完善的个人信息保护体系,其原旨在于平衡个人信息控制权和个人信息利用价值。与此同时,由于意识到告知同意规则的实践危机,我国还出台了《常见类型移动互联网应用程序必要个人信息范围规定》(以下简称《规定》)、《App违法违规收集使用个人信息行为认定方法》(以下简称《方法》)以及《个人信息处理中告知和同意的实施指南》(以下简称《指南》)等规范性文件和国家标准来规范数字平台的用户个人信息收集行为,作为规制暗黑模式设计的补充性规范。

就暗黑模式规制而言,个人信息保护法及其配套法律法规和规范体系虽然较早意识到了数字平台非规范个人信息收集行为对用户个人信息权益可能造成的损害,并通过出台《规定》《方法》以及《指南》等规范性文件和国家标准的方式对相关行为进行了规范,但仍旧存在以下问题:

一方面,法律法规以及相关文件的位阶不足,难以产生广泛的强制性效力,无法为用户个人信息提供周全保护。例如,《指南》虽然通过明确告知和同意的基本原则、细化告知同意的程序要求和数字平台HCI设计规范,并对不同场景下告知同意规则的运行方式进行针对性规定的方式对数字平台可能利用默认勾选、隐藏重要信息以及情绪操纵等对告知同意规则存在潜在异化的暗黑模式进行规范,但《指南》本身作为推荐性标准,在适用上供企业和个人自愿采用,且仅可为监管、检查、评估等活动提供参考,导致其在实践中存在难以落实的问题。

另一方面,专项规范缺失,现有规范体系仅能涵盖暗黑模式在平台经济下的部分应用场景,无法对数字平台其他暗黑模式应用形态予以规范。例如,《规定》《方法》及《指南》等文件虽然着眼于限制数字平台的用户个人信息收集行为,并实际上体现了限制平台采用暗黑模式收集用户个人信息的立法意旨,但与欧盟以及美国的规制经验不同的是,上述文件主要着眼于对特定场景下的用户个人信息收集行为进行规制,但暗黑模式规制的相关经验没有扩张至规范数字平台运行、促进数字经济良好发展的层面。

总体而言,现有的个人信息保护法及其配套法律法规在规制暗黑模式方面的不足之处在于,由于个人信息保护法下没有规制暗黑模式的相关条款,数字平台利用暗黑模式取得用户个人信息授权的行为不能在个人信息保护法框架内得到合法化解释;同时,由于以上文件位阶较低,其也无法在现有法律框架内对其展开完全的非法性评价,构成目前数字平台暗黑模式泛滥的原因之一。简言之,在现有法律框架内,暗黑模式规制实际上处于法律上的真空地带,亟须在个人信息保护法领域引入这一新概念并对其进行专项规制,以达到维护用户个人信息权益,规范数字平台个人信息收集和处理行为的目的。

(二)
告知同意规则的实践危机

个人信息保护法第14、17条通过将个人的同意作为合法化处理用户个人信息重要事由的方式确立了告知同意规则作为个人信息权益基本保护模式的地位,与全球多个法域的个人信息保护法实践在总体上保持了一致。然而,实践中的告知同意规则,从告知的具体要求,到用户的真正知情甚至同意的有效性各个层面都面临着不小的挑战,更有甚者提出既然告知同意规则无法发挥应有效用,也无法适应数字时代对于数据流通效率的现实要求,就应废止告知同意规则,不再将信息主体的同意作为个人信息处理的正当性基础。虽然目前学界共识更多偏向于主张对知情同意规则进行场景化,但就知情同意规则的实践危机曾经的相关讨论已经进行到制度存亡层面,仍旧可以看出知情同意规则所面临的争议和危机之大。

然而,无论告知同意规则面临何种危机,在实定法已经对其做出明确肯定的当下,对其进行理论和实践上的完善而不是全盘否定是毫无疑问的最佳处理方案。对此,就用户个人信息保护层面而言,欧盟、美国治理暗黑模式的经验为缓解告知同意规则的实践危机提供了一个良好的解决方案。将暗黑模式概念引入个人信息保护法和我国平台治理的过程当中,既有利于缓解告知同意规则本身的危机,规范平台的用户个人信息收集行为,也有利于在未来进一步规范数字平台的经营和竞争行为。

三、个人信息保护法的暗黑模式概念引入

我国个人信息保护法以及相关法律法规并没有直接涉及暗黑模式及其相关概念的条文,目前也尚未有专项法规对暗黑模式加以规制。虽然部分行政规章、规范性文件以及国家标准已经从规范数字平台个人信息收集行为的层面体现了限制暗黑模式的意旨,但仍未实现法律层面对数字平台暗黑模式的根本性限制,也尚未有明确的法律规范对数字平台采用暗黑模式的行为进行定性,其所可能导致的法律责任也未能明确。因此,有必要在我国现有法律规范的框架内引入暗黑模式的概念,在利用其缓解告知同意规则实践危机的同时,将其归入我国个人信息保护法中原则性条文规定的涵摄范围之内,一方面有利于提高我国个人信息保护法的运行实效,实现用户个人信息的周全保护,另一方面可以通过扩大暗黑模式概念影响范围的方式,进一步在未来规范数字平台的经营行为,实现数字经济的平稳、健康发展。与此同时,纵观我国个人信息保护法及其规范体系,既存在引入暗黑模式概念的规范空间,也具有引入的充分必要性,具体而言包括以下几个方面。

(一)
暗黑模式概念引入的规范基础

1.诚信原则召唤

个人信息保护法第5条规定的“处理个人信息应当遵循合法、正当、必要和诚信原则,不得通过误导、欺诈、胁迫等方式处理个人信息。”强调了处理者在处理个人信息时,应尊重个人的知情权、选择权,在法律范围内处理个人信息,且需要确保信息处理透明、公平,不得以误导、欺诈以及胁迫等方式处理个人信息。此条与个人信息保护法第13条等条文结合,共同构成了一个原则性规范和实体性规则并存的体系化的限制个人信息处理的规则体系,同时也为在我国个人信息保护法下引入暗黑模式概念以提高个人信息保护水平提供了规范基础。从个人信息保护法法律体系框架内来看,“处理个人信息”应解释为处理者从信息采集、处理、存储全流程都应遵守该原则,由此在数字平台暗黑模式泛滥的个人信息采集环节,可引入暗黑模式概念规范数字平台利用具有反直觉以及强烈心理暗示的HCI设计取得用户同意的行为。此外,虽然数字平台采用类似暗黑模式界面设计方式难以归入“欺诈”“胁”的范畴,但存在将其归入“误导”方式处理个人信息的范畴从而予以规范的空间。

具体而言,诚信原则内含对处理者的内在诚信义务要求处理者不得利用任何误导方式致使个人陷入意志不自由状态,这其中当然涵盖通过网站App的隐私设置、弹窗等技术设计违反处理者对信息主体的承诺的行为。其中,通过互联网界面设计影响和心理操纵个人行为,使其难以表达其实际偏好,进而导致其做出非意欲且潜在有害的决定就是其中的典型情形。并且这样的情形正是数字平台在收集个人信息阶段采用暗黑模式取得用户同意的常用手段之一:首先,通过这样的设计可以利用用户疲于应对长篇隐私政策的心理状态,进一步削弱其阅读意愿,从而在“接受或离开”的两难选择之间被迫做出于己不利的选择,这种利用平台在HCI设计和隐私政策制定上的优势地位迫使用户做出于己不利而对平台有利的选择的行为构成暗黑模式的典型特征;其次,采用这样的HCI设计可以大幅提高用户个人信息收集效率,从而利用大规模的数据采集提高平台竞争力,虽然这种设计以牺牲用户对其个人信息的实际控制为前提,有违诚信原则的内在要求从而正当性存疑,但不可否认的是这种信息收集模式被多数数字平台采用,因而有必要对其予以规范。由此,在我国现有法律框架内,“诚信原则”可作为引入暗黑模式概念规范数字平台个人信息收集行为的规范基础之一。

2.公开、透明原则和信息主体自决权

个人信息保护法第7条规定,“处理个人信息应当遵循公开、透明原则,公开个人信息处理规则,明示处理的目的、方式和范围。”此即个人信息保护法对个人信息处理者处理行为的透明度要求。从其规范用语来看,公开、透明的要求目的是向信息主体披露处理者的处理目的、方式和范围。平台采用暗黑模式收集用户个人信息的行为显然与此项要求相悖。与此同时,经济合作与发展组织(OECD)对于暗黑模式的专项研究指出,暗黑模式的采用将会影响消费者做出自由以及充分的知情选择的能力,从而损害消费者的自主权和隐私权。与此对应的是,在个人信息保护法领域,暗黑模式的采用也将损害信息主体做出自由选择的能力,例如信息处理中可能通过极小字体呈现等暗黑模式方式对个人信息处理的主要方式和关键目的进行隐藏,或者通过默认勾选的方式将一些超出合理信息处理目的的个人收集行为嵌入隐私政策,并通过用户点击同意的方式合理化后续个人信息处理行为,从而侵害信息主体的知情权和决定权。对此,一项对澳大利亚消费者的专项调查发现,由于暗黑模式的采用,有25%的人分享了超过预期的个人信息,足以说明暗黑模式的采用将在较大程度上通过模糊个人信息收集范围以及个人信息处理目的、方式和范围的方式,从而损害用户知情权以及决定权。

由此可见,采用暗黑模式收集用户信息的平台既无法完成法律对其施加的公开、透明和披露义务,也对用户信息自决权有所减损。因此,为在平台经济下加强用户作为信息主体自由意志的实现能,达到个人信息保护法下个人信息的总体保护目标,有必要引入暗黑模式概念规范数字平台的HCI设计行为,从而保障个人信息保护法第7条的规范要求,并提高告知同意规则的规范影响力。

(二)
引入暗黑模式概念的必要性分析

1.域外治理经验总结

从域外立法的比较经验来看,欧盟和美国较早注意到了暗黑模式的采用对消费者、个人信息保护以及市场竞争秩序的不良影响,并通过了对暗黑模式进行规制的相关法律。例如,欧盟通过《通用数据保护条例》(以下简称GDPR)第25条GDPR说明的第32条以及DSA第25条构建了一个完整的暗黑模式规制体系。美国则通过出台DETOUR法案、FTC法案等法律文件对数字平台暗黑模式行了专项规范。DETOUR法案除明令宣布暗黑模式违法外,还把引起、强化和鼓励儿童的“强制性使用”的界面设计纳入规制范围,而不是仅仅局限在违规获取用户同意和个人数据的情形。FTC法案则集中在消费者权益保护和规范市场竞争层面,将任何可能对消费者造成实质损害又无法合理避免的行为和事件归入非法范围;同时将那些误导或可能误导消费者的陈述、遗漏以及做法均归入不公平和误导的范围并受FTC规制,从当下来看实际上也体现了对暗黑模式进行规制的立法意旨。

欧盟和美国的经验表明,对暗黑模式进行专项规制是保护用户个人信息、规范数字平台界面设计、在数字时代维护用户自主权以及规范平台经营行为和规范平台间竞争行为的重要手段。虽然其实施效果还有待实践考察,但对其进行规制已经开始逐渐成为各国的普遍共识。对我国来说,暗黑模式规制是一个新概念,但其所指并非新问题。欧盟、美国等国的暗黑模式规制实践为我国平台经济背景下用户个人信息保护以及平台治理带来了新的思路。如前所述,在我国现有的个人信息保护法的暗黑模式规制框架下,存在立法位阶不足、相关规范零散分布、专项规范尚缺失的问题,因此在个人信息保护法等法律法规内部先行引入暗黑模式概念,而后再将其推广至平台治理的其他方面,不仅具有充分的必要性,还能够由浅入深地对数字平台中的暗黑模式进行全方位的规制。

2.引入必要性分析

首先,暗黑模式的大规模采用已经给用户个人信息权益以及数字平台市场竞争秩序造成不利影响。在数字时代,用户的个人信息构成企业“市场营销”的原材料,在暗黑模式规制仍处于法律上的真空状态时,数字时代的数据竞争在数字平台运营层面集中表现在平台对暗黑模式的滥用以高效、大规模的获取用户个人信息以提高其市场竞争力。与此同时,为了迅速占据数据的规模优势,保障平台在数字经济时代的根本竞争力,其他平台也同样只能通过类似方式收集用户个人信息以获取竞争优势,数字时代的平台市场竞争在用户个人信息收集层面由于暗黑模式的广泛采用已经陷入失序状态,数字时代的“圈地运动”俨然已经开始。然而,在平台的相互竞争和博弈中,交涉能力低下的用户和自我调控失序的市场本身成为这一过程中的主要受损害方,这种现状亟须通过引入暗黑模式等新兴概念作为规制起点并加以针对性改变。

其次,虽然数字平台行业拥有自己独特的价值体系和行为规范,但其“零价模式”的运营方及其背后代表的价值体系并不构成其采用暗黑模式设计的正当性基础。现有的数字平台大多体现出这样的运行逻辑:平台为用户提供免费的平台服务,而用户以其对平台的个人信息授权作为获取这种免费服务的对价,平台的盈利方式是通过大量用户个人数据的大数据分析实现定向、精准的广告推送。简言之,平台运行实际并非免费,只是其现有盈利逻辑为从广告主而不是直接从用户处获取收益,在此过程中用户个人数据是其不得不支付的“对价”,从实际情况来看,大部分用户也愿意通过授权平台获取其个人信息来获取免费的平台服务,因为消费者更喜欢交换信息,而非金钱。而,上述盈利模式并不能构成合理化平台使用暗黑模式的理由。一方面,用户在“零价模式”中并没有做出自我选择,而是由作为优势方的平台强行推广了这种“交易”模式,实际上代替用户进行了选择。此外,作为告知内容的许可协议和隐私政策也常常存在许可方与被许可方认知与谈判能力不等、信息不对称等问题,因此平台作为平台经济中的优势方不能以其盈利方式为由剥夺用户自主权。另一方面,这样的盈利模式实际上是数字时代人的主体性异化的典型表现之一,在数字经济背景下用户为获得免费的平台服务,必须以接受平台对其进行情绪操纵和不当引导为对价,且并无替代的应对方案,这实际上是对人主体性的异化。因此,为应对暗黑模式带来的这一挑战,有必要将这一概念引入我国法律规范体系,以更好地回应数字时代的这一伦理危机。

此外,暗黑模式自然伴生着对用户的差异化对待。暗黑模式的HCI设计具体到每个用户的作用效果各异,其中便隐含对不同用户的差异化对待,并且存在加大“数字鸿沟”和具体化不公正的社会关的现实风险。具体而言,由于在数字时代每一个用户的数字素养都存在客观差异,面对暗黑模式设计,部分用户可能能够轻易识别和规避,而有的用户则对弹窗提示以及具备情绪操纵特质的选择浑然不觉,从而更容易受暗黑模式影响遭受利益损害。总之,在数字经济迅速发展过程中产生的“数字鸿沟”问题在数字平台暗黑模式的广泛采用下将不可避免地加剧,暗黑模式背后的算法运行逻辑也可能加深和现实化当代社会中客观存在的不公正的社会关系,从而引发数字时代系统性的伦理危机。

(三)
个人信息保护法下暗黑模式概念的引入

 在我国个人信息保护法下,引入暗黑模式既存在相应的规范空间,也具有引入的充分必要性,有必要将其作为新概念正式引入作为规范平台用户个人信息收集和平台治理的手段之一。基于大型平台运行方式和其与用户间的特殊关系,在引入暗黑模式概念时应注意以下两个方面。

首先,从欧盟DSA的立法过程来看,其总体体现出的经验为将暗黑模式简约至一个成熟概念,避免难以界定的动机以提高治理方案的可操作性;但在合理范围中将动机纳入暗黑模式定义范围内对未来平台治理有一定益处。这主要体现在,暗黑模式虽以减损用户自主性为手段,但如果其动机在于提示和防止用户遭受不当损害,或通过增大用户操作难度的方式提醒用户注意对其权益影响较大的内容时,反而因其动机的正当性应当获得法律上的合法性评价。例如,在用户向陌生账户转账时,适当运用反直觉设计、操作暗示和用户情绪调动等暗黑模式设计手段提醒用户注意,不仅有利于维护用户权益,将这种情形排除在暗黑模式规制范围外也能够对实践中常见的一些HCI界面设计提供合法性基础,鼓励平台利用此类设计以保护用户权益。

其次,暗黑模式的概念引入应通过将其概念内涵归入个人信息保护法原则性规定涵摄范围的方式进行。个人信息保护法于2021年才得以正式施行,即使其中部分制度在实践运行中面临一定的挑战,也不能构成否定这一并无致命缺陷制度存在价值的合理理由,况且短时间内也并无其他更具体的替代方案。除此之外,从《办法》《规定》和《指南》等规章、标准和规范性文件的颁布来看,告知同规则的实践运行机制处于不断完善的过程之中,足见在告知同意规则实践危机问题上的官方态度即为完善,而非废止。暗黑模式的新概念为这一危机的缓解提供了一个助推力,个人信息保护法中的原则性条款则为这一新概念在我国法律体系内提供了一个容身之处。

简言之,宜将“诱导用户做出利于平台的选择”的非法动机要素纳入暗黑模式的概念范围,以从概念层面将那些具备正当动机的设计排除出暗黑模式的规制范围;此外,暗黑模式这一新概念的引入应从个人信息保护法中的原则性条款入手,从而将其顺利归入到我国现有法律规范体系之内。

四、数字平台暗黑模式规制的体系建构

欧盟、美国的暗黑模式规制经验的一个显著特点在于,将暗黑模式置于数字平台管理的总体视角下进行规制,这是暗黑模式在平台经济下的广泛的应用场景决定的。欧盟、美国规制暗黑模式的目的不仅在于用户个人信息保护,更在于规范数字平台及其背后的互联网企业的运营行为,以及数字经济背景下用户自主决定权的维护,在这一层面,用户对个人信息处理的知情同意只是平台经济下用户自主决定权的一个侧写。因此,暗黑模式的规制应当作为一种平台治理工具引入我国法律规范体系,据此,在个人信息保护法中引入暗黑模式概念形成规范切入点基础上,有必要建构以下规制策略:

(一)
数字平台暗黑模式规制:缓解告知同意规则危机

告知同意规则本身面临着较大的实践危机。由于其隐含的规制逻辑外在表现为限制个人信息处理的规制进路,在数字经济时代不断遭受批评,有人主张其不成为个人信息处理的合法性基础,更有甚者主张废止告知同意规则,足见其面临的实践危机之大。虽然目前学界已在总体上达成对告知同意规则进行场景化改造的共识,但其内部构造本身所含各要求之间、要求与措施及效果之间的不易调和的冲突与矛盾仍旧存在,亟待进一步探索和研究。

与此同时,同意机制作为识别和规制暗黑模式的关键,在个人信息保护的场景下,暗黑模式的作用场景主要集中在平台在个人信息处理前的告知同意阶段,即平台在履行告知义务时通过不当的HCI设计影响用户自主权。由此可见,个人信息保护法下暗黑模式的规制与告知同意规则存在目的性重叠,个人信息保护法下暗黑模式的规制需要从告知同意规则入手。一方面,暗黑模式概念的引入有助于缓解告知同意规则的实践危机。因为告知的作用就在于引致同意人充分同意,进而获取真实有效的同意。在用户端难以获取真实有效的同意,告知和同意脱钩的情况下,将目光转向平台告知义务的良好履行更具备现实必要性,而平台告知义务的履行又构成个人信息保护领域暗黑模式规制的重要切入点。另一方面,通过探索个人信息保护法领域内暗黑模式规制路径,可以丰富告知同意规则的理论内涵和实操机制,在勾勒出知情同意规则实践运行的内、外部边界的同时,提高个人信息保护法的运行实效。

具体而言,在暗黑模式规制视角下告知同意规制的搭建和完善主要涵盖以下几个方面。第一,新概念的引入为个人信息保护法第17条规定的具体实施提供了思路。“显著方式”“清晰易懂”“真实、准确、完整”的规范要求在此过程中不断被具体化,其规范内涵也在不断予以充实,同时为平台告知界面的HCI设计提供了更加明确的规范指引;第二,明确了平台个人信息收集行为的合法性边界。个人的同意作为平台处理用户个人信息的合法性基础,在平台经济下的暗黑模式规制背景下呈现出新的理论内涵:只有在用户不受干扰、不受平台故意操纵以及情绪诱导的情形下做出的同意才可作为平台处理用户个人信息的合法性基础,而对于利用不当的HCI设计,或者“同意或退出”的选择等实质排除用户自主选择权的暗黑模式设计取得的用户同意,不再承认其法律效力,从而借由告知同意规则的完善实现个人信息保护法下暗黑模式的规制,并倒逼数字平台对相关HCI设计进行自查。

(二)
数字平台暗黑模式规制:作为平台运营行为规范

从暗黑模式的域外规制经验来看,在用户个人信息收集的场景之外,暗黑模式在平台整体运营层面也具有广泛的应用场景,这些应用场景不仅涵盖平台运营行为规范,还包含平台间竞争关系,甚至可以引申到数字伦理层面。具体而言,暗黑模式规制经验在平台治理的其他方面的作用主要包括以下几个方面。

一是平台经济下的消费者权益保护。域外实践经验表明,暗黑模式不仅可以用来骗取用户个人信息,还可以用于诱导用户购买不需要的产品,或者订阅不需要的服务。例如,在购物软件内,通过显示“你的XX个好友购买了此产品”或者“XX分钟内优惠即将结束”等虚假内容,通过调动消费者情绪从而引导其进行本不意欲进行的消费以从中获益;再如,部分软件订阅的内购服务,虽然存在自动扣费、长期订阅的默认设置,但其界面却采用了使用户误以为服务为免费一次性试用的设计,从而诱导用户订阅其并不需要的服务;此外,部分平台还在展示广告时,通过设计虚假的“关闭”按钮迫使用户误操作点击广告,这些都属于暗黑模式的典型应用场景。由此可见,暗黑模式规制经验还能作用于这些领域,来维护数字平台场景下的消费者权益,以防其遭受平台的情绪操纵、选择引诱从而失去其自主选择权。

二是平台经济下平台间竞争秩序的维护。暗黑模式的采用,不仅使用户本身权益遭受破坏,还可能导致平台间竞争的失序。“零价模式”下,平台主要的竞争优势在于基于大量用户个人信息数据的算法分析下的广告定向推送能力,这样的精准、定向的广告推送能力构成了平台面向广告商的议价能力的基础,同时也代表着平台盈利能力的高低。在这种情况下平台要获取相对竞争优势,比拼的并不完全是精准的算法,而更多的是数据规模的大小。这导致的结果是,在专项规范缺失的情况下,平台竞争将不可避免地陷入失序状态,越来越多的平台通过采用暗黑模式来提高用户个人信息收集效率,扩大其数据保有量,目的是通过提高其数据竞争的规模优势从而实现整体盈利。因此,对平台采用暗黑模式进行用户个人信息收集以及平台的相关经营的行为进行规制,还有利于缓解这种失序的竞争状态,保障数字经济健康发展。

三是平台经济下的数字伦理塑造。暗黑模式的采用对数字时代“人”主体地位的异化也不可忽视。无论科技如何发展,“人”本身始终应当是发展的出发点和落脚点。暗黑模式的运行方式就是通过操纵情绪、限制选择、确认羞辱等方式减损用户自主权,迫使用户做出或者不做出某种选择从而使平台受益,这毫无疑问是对“人”本身主体性的异化,“人”在这种情况下实际已经沦为数字经济发展中的牺牲品。此外,暗黑模式存在将社会的结构性不公扩张至网络世界的嫌疑,也将不可避免地扩大“数字鸿”。因此,在平台治理层面,对操纵情绪、诱导选择的暗黑模式设计予以规范,一方面能够在平台经济之下重申“人”的主体性地位,使“人”不至于沦落成为平台经济下的工具和牺牲品;另一方面,这样的尝试能够在一定程度上帮助塑造平台经济下的数字伦理,对于平台治理甚至未来的数字伦理研究都将有所助益。

总而言之,规范平台用户个人信息收集行为构成暗黑模式规制的一大主要方面,暗黑模式治理的域外经验则揭示了其更加广阔的作用空间。因此,在将其引入我国个人信息保护法规范体系后,基于暗黑模式的广泛应用场景和其规制经验的巨大推广潜力,有必要将这一概念引申适用至平台治理的其他层面,以促进我国数字经济和平台经济的良好、健康发展。

(三)
数字平台暗黑模式规制:内外合力管理体系构建

将暗黑模式这一新概念引入我国法律规范体系后,如何构建一个良好的管理体系,来对暗黑模式进行科学有序的规制是需要探索的问题之一。总体而言,暗黑模式的规制可以通过行业技术自律、法律责任分配、惩罚机制三大管理机制的结合作用实现。

一是行业内部技术自律机制。一项HCI设计是否属于暗黑模式必须结合代码设计,而不能仅靠界面呈现和表面效果来对其是否存在故意操纵和限制选择的情形进行判断。此外,部分暗黑模式的采用可能单纯因存在技术局限而没有更好的替代方案,或者由于采用替代方案将大幅提高平台运行成本而不具有实操性。对此,行业本身作为技术人才储备最丰富的组织之一,可以发挥其技术自律机制的作用对暗黑模式加以判断和规制。例如,可通过制定平台内部政策禁止使用暗黑模式,或者建立专门的审查机制,定期识别并清理暗黑模式设计;同时,可设立举报机制,动员用户对其发现的暗黑模式进行检举并及时公布处理结果,同时提高行业技术自律机制的透明度,以实现行业自律机制和外部监督机制的良好互动,提高行业内部暗黑模式规制机制的运行效率。

二是暗黑模式规制下法律责任的合理分配机制。将暗黑模式概念引入我国个人信息保护法法律规范体系后,通过个保法的原则性规定,可以在总体上在现有法律体系框架内对数字平台采用暗黑模式收集用户个人信息的行为展开否定性评价,从而合理地通过在法律上对数字平台施加义务的方式来杜绝暗黑模式的采用,与此同时,不断搭建和完善中的告知同意规则的实践机制也为平台提供了相关页面设计的合规指引。总体而言,在暗黑模式规制的相关法律责任分配过程中,主要关涉三大主体,即作为暗黑模式设计者的平台自身(或者其运营企业)、作为行政执法权拥有者的行政机构以及作为暗黑模式直接作用对象的终端用户。毫无疑问,平台作为信息处理主要收益者在此过程中承担合适的义务以及管控责任符合风险分配的效益规则,但平台并非唯一的责任主体,除平台外,行政机关还需负担一定的法律上的监管责任,用户也需负担一定的消极义务来配合平台和行政机关对暗黑模式的针对性治理。

具体而言,平台责任主要集中在杜绝暗黑模式设计的主动作为义务和在行政机关或者行业内部监管机构对暗黑模式治理时的消极配合义务。同时,在可预见的未来也需要通过设立数据合规官与行政机关沟通交流,来通过一定的标准和程序筛选和纠正暗黑模式。此外,在举证责任上,平台在司法层面应承担证明其界面设计不存在暗黑模式,取得的用户同意和基于此的个人信息处理行为具备合法性基础的证明责任;此外,平台在暗黑模式规制领域还将承担更多的合规责任,也可能因此遭受处罚。行政监管责任则集中体现在,相关的个人信息保护主管机关有义务主动或者与行业监管部门合作对平台运营者展开调查,并及时处理举报线索,公开处理决定等。最后,对于终端用户而言,其在暗黑模式治理层面则主要表现为负有一定的消极性义务,例如用户面对不合规的暗黑模式设计有义务向相关行业监管部门和行政主管机关报告以进行及时处理的义务等。

三是针对平台的惩罚和声誉机制。欧盟DSA在引入相关条款对暗黑模式进行规制的同时,还设计了严厉的惩罚机制,对违反DSA的企业,欧盟相关机构可以最高处以全球营业额6%的罚款,并且在多次严重违规的情况下,还可被禁止在欧盟单一市场内运营。由此可见,在欧盟的平台治理领域,罚款机制仍旧是长效且被广泛采用的惩罚机制之一,毕竟其在有利于保障DSA良好实施的同时,还能倒逼在欧盟提供数字平台服务的相关企业自查旗下产品是否有违反DSA规定的暗黑模式设计,从而杜绝平台暗黑模式的采用。反观我国,类似法规对违反的企业的惩罚一般采用声誉处罚机制,主要通过在应用市场下架其违规App产品并通报违规收集使用个人信息App单以对相关平台进行警告。因而,通过引入欧盟DSA中强硬的罚款机制对采用暗黑模式的平台进行惩戒,可以倒逼平台积极履行暗黑模式自查自纠等一系列积极义务,是一项既具有威慑性又具有实操性的措施。

此外,还可以通过强化声誉罚的方式推动平台治理背景下的暗黑模式规制。平台声誉在平台经济背景下非常重要,因为良好的声誉是其吸引用户、实现可持续发展的重要方式之一。声誉罚在平台治理上可以作为罚款机制的一种补充性惩罚机制,与行业自律机制及内外部各类处罚机制相互作用,最终形成平台治理下规制暗黑模式的内外合力,实现数字经济的健康、向上发展。

结语

在数字经济的浪潮中,个人信息保护的议题愈发凸显其重要性。从欧盟、美国规制暗黑模式相关经验出发,探讨我国数字平台中普遍存在的利用暗黑模式获取用户个人信息的问题,分析其对用户个人信息权益的潜在威胁,并以此为借鉴,在我国个人信息保护法及相关法律规范的框架内引入暗黑模式概念规范数字平台个人信息收集行为,不仅能够有效疏解作为个人信息保护法核心概念的告知同意规则的实践危机,也有利于规范平台的用户个人信息收集行为和平台运营行为,并在实现数字平台良好治理的同时,促进我国数字经济的健康发展。

往期精彩回顾

李晶|共生视角下数字人民币钱包的治理路径建构
刘宇君|行政裁量基准的逸脱条款研究——基于953份法律文件的分析
陈佳雯|论食品安全犯罪中从业禁止的行刑衔接
钟建|再论证券期货违法犯罪中的行刑衔接问题
唐诗愉|论网络暴力的看门人规制
陈逸伦|认罪认罚案件中刑事被追诉人反悔问题研究

上海市法学会官网

http://www.sls.org.cn