编者注:本文是《最新观点|别把隐私风险塞进一个“同意”按钮里,企业应该分担责任》的延展之作。前文讨论了AI时代“通知—同意”机制的局限,指出隐私保护不能主要依赖个人阅读条款和判断风险,而应强化掌握数据与算法的企业责任。本文在此基础上进一步引入MyData理念,探讨如何将企业问责与个人数据自主权结合起来:一方面,企业不能以用户同意为免责依据;另一方面,也应通过个人数据存储、数据可携带和智能代理等机制,让个人获得持续、真实的数据控制能力。文章的核心观点是,AI时代的隐私治理不能在“个人负责”与“企业负责”之间二选一,而应形成“个人可控、企业担责、技术辅助”的协同框架。

Daniel J. Solove是美国乔治·华盛顿大学法学院教授,主要研究隐私、信息技术与法律治理问题。在《华尔街日报》发布的文章《如何在AI时代保护我们的隐私?》中,Solove讨论了人工智能发展背景下个人隐私面临的新风险。互联网、智能手机和数字平台不断收集个人数据,AI则能够对这些数据进行组合分析,从中推断个人没有直接提供的敏感信息。消费者可能只分享了购买肥皂、饮料等普通商品的记录,算法却可能据此判断其健康状况和政治倾向[1]。
Solove认为,现行隐私制度把过多责任交给了消费者。面对数量庞大的隐私条款、授权弹窗和数据处理规则,普通人既没有足够时间逐一阅读,也很难判断数据将被怎样组合和使用。AI进一步提高了数据推断的复杂程度,消费者即使了解自己提供了哪些信息,也无法准确预见企业能够从中分析出什么。
这一观点与MyData所强调的个人数据自主权,表面上存在一定“对立”。Solove对将数据控制责任交给消费者持谨慎态度,MyData则主张通过技术和制度安排,把个人数据的控制权交还给个人。《MyData宣言》将个人赋权、数据可控和人与组织之间更加平衡的关系作为重要目标[2]。
深入分析可以发现,Solove的企业责任观点与MyData理念具有很强的互补性。MyData解决个人缺少数据管理工具和实际控制能力的问题,Solove的企业问责思路则解决企业借助技术复杂性转移责任的问题。将两者结合,可以回应“消费者无力独自承担隐私保护重任”的担忧,也可以为下一代数据经济,特别是MyData 2.0阶段,形成更加完整的数据治理框架。
一、核心关系:殊途同归,共同终结“知情同意”的破产
Solove的观点与MyData理念拥有一个共同的批评对象,即现行的“通知与同意”模式。在这种模式下,企业通过隐私政策和用户协议向消费者说明数据处理规则,用户点击“同意”之后,企业便获得收集和使用数据的权限。
这套制度假设消费者能够读懂条款、判断风险并预见数据使用后果。现实中的消费者每天会遇到大量授权页面,隐私政策通常篇幅很长,数据处理过程又涉及多个平台、系统和合作机构。个人很难认真阅读每一份条款,也很难持续跟踪自己的数据被谁保存、如何使用以及保存多长时间。
Solove曾将这一问题概括为“隐私自我管理与同意困境”。他指出,个人依靠同意来管理隐私存在明显局限,隐私法律不能过度依赖消费者的个人选择[3]。AI的发展进一步放大了这种局限。用户同意企业收集某项普通数据时,很难知道企业是否会将该数据与其他信息组合,也无法判断算法是否会从中推断出健康、宗教、政治倾向等敏感信息。
在Solove看来,企业通过冗长的隐私声明完成形式上的告知,保护隐私的实际负担却落在消费者身上。一旦出现问题,企业还可能以“用户已经同意”为理由解释自身行为。用户点击同意,只能说明其接受了当时展示的条件,很难证明其已经理解未来所有可能的数据使用和算法推断。
MyData从数据控制结构出发,对同一模式提出了批评。当前的数据生态以企业为中心,用户完成授权以后,个人数据通常会进入企业服务器,并由企业长期保存、分析和使用。用户很难掌握数据的持续流向,也缺少随时修改授权、停止使用和转移数据的实际能力。
MyData希望推动数据治理从企业中心转向以人为中心,使个人能够访问、管理和使用与自己有关的数据,并且能够了解数据如何流动[4]。用户可以决定谁能够使用数据、数据可以用于什么目的,也可以根据实际情况调整或者撤回相关决定。通过这种方式,个人数据可以摆脱封闭在不同企业系统中的孤岛状态。
Solove关注企业利用“同意”转移责任的问题,MyData关注个人在“同意”之后失去实际控制的问题。两者共同说明,一次性的点击同意已经无法支撑AI时代的隐私治理。用户授权可以成为企业使用数据的条件,但无法成为企业免除责任的理由。新的治理模式需要同时加强个人的持续控制能力和企业的持续责任。
二、核心区别:“防御性盾牌”与“赋能性引擎”
Solove与MyData在解决路径上具有不同侧重点。Solove更加重视风险防御和企业问责。他认为,把数据控制责任交给消费者存在明显问题,因为普通人的注意力、时间和专业知识都十分有限,无法处理复杂的AI推断风险。
即使法律为消费者提供更多选择按钮,用户仍然很难识别算法设计中的歧视、误判和越界分析。Solove主张通过数据最小化、技术审查、算法责任和法律追责等方式,为消费者建立一面“防御性盾牌”。企业在使用数据或者AI算法时,只要造成不合理的伤害风险,就应当承担相应责任。
Solove在文章中借用了食品、药品和汽车行业的发展经验。食品和汽车曾经存在严重的安全问题,法律建立检查、测试和责任追究机制以后,企业才拥有更强动力提高产品安全[1]。按照这一逻辑,数字技术和AI在投入使用前也应接受隐私与安全审查,企业在算法造成伤害后还应承担责任。
MyData更加重视个人赋能,核心目标是将数据控制权交还给个人。个人可以通过数据可携带权和个人数据存储,归集、管理和使用自身数据,并根据具体需要选择数据提供对象。个人还可以限定数据使用范围,在需要时停止数据流动,或者将数据转移到其他服务中。
MyData白皮书将其描述为一种以人为中心的个人数据使用模式,强调建设可以互操作、由个人参与控制的数据生态[4]。在这种模式下,个人从被动的数据来源转变为数据关系中的主动参与者。MyData因此更接近一种“赋能性引擎”,重点在于提高个人管理和使用数据的能力。
两者对数据价值的认识也存在不同侧重。Solove主要关注数据可能带来的风险,目标是减少企业过度收集数据以及算法对个人造成的伤害。
MyData同时关注数据作为资产和生产要素的价值,希望数据能够在安全、透明和个人可控的条件下流动。个人可以利用自己的多维数据获得更公平的信用评估,也可以获得更加符合自身情况的个性化服务。
三、构建统一框架:主权与问责的深度融合
将MyData与Solove的企业责任观点结合,可以形成“底层自主、顶层问责、智能代理”相互配合的三位一体模型。在这一框架中,个人拥有真实的数据控制能力,企业无法利用用户同意逃避责任,技术工具则帮助个人降低管理数据的难度。
第一是基础设施层,即建立以个人数据存储为基础的个人数据主权。用户的核心行为数据可以保存在个人数据存储(PDS),或者相应的去中心化节点中,减少中心化企业无限制囤积数据的情况。同时,用户拥有“切断数据流”和“携带数据转移”的物理级控制力,落实 Solove 赞同的“删除权”和真正的控制权。
第二是监管底线层,即剥离“同意”的企业免责作用。“用户的同意”不再是企业免责的理由。即便用户通过MyData授权企业使用了数据,一旦企业的AI算法产生了歧视(例如在信用科技评估中滥用非财务数据),或者跨界推断了敏感信息,企业依然要承担严格的法律责任。这就解决了Solove担忧的“普通人无法预判 AI 风险”的问题。
第三是执行代理层,即AI驱动的个人数据受托人。Solove认为把控制权交给用户行不通,因为技术太复杂。解决这个矛盾的钥匙是用AI打败AI。在统一框架中,用户不需要亲自去阅读条款。PDS系统内嵌“个人AI代理”,充当数字时代的“律师”或“受托人”。它根据用户的宏观偏好,自动与企业的AI进行条款博弈和数据最小化过滤。
第四是场景应用层,即原生数据驱动的信用科技与价值评估。历史地看,20世纪七八十年代的美国信用体系是“技术驱动”的,建立在早期的IT架构上;而当今的全球化创新(尤其是在中国)则是原生“数据驱动”的。在这一统一框架下,现代信用科技(Credit Technology)的演进将更加健康:用户通过MyData归集自身的多维数据,向B2B机构或金融机构证明自身信用;而机构在处理这些数据时,必须受到类似Solove主张的“上市前算法审查”的约束。这不仅避免了敏感信息的违规推断,还完全符合国际金融标准的高要求,去除了泛化和不专业的标签。
总结
Daniel J. Solove提出了一个极其敏锐的痛点:不要指望裸奔的消费者能自己保护自己。将他的“强问责制”与MyData的“强自主权”结合,我们就能得到一个完美的解法:MyData提供了管理数据的武器和金库(PDS),而Solove的问责制为这个金库外围罩上了一层不可逾越的法律高压电网。在这个统一框架下,数据既能安全地归属于个人,又能放心地用于AI时代的经济创新。
参考文献
[1] Solove, Daniel J. 《如何在AI时代保护我们的隐私?》,《华尔街日报》中文版,
https://cn.wsj.com/articles/ai-privacy-laws-data-b272b29f?mod=cn_feature_1_pos_4.
[2] MyData Global. “MyData Declaration.” https://mydata.org/participate/declaration/.
[3] Daniel J. Solove, Privacy Self-Management and the Consent Dilemma, 126 Harv. L. Rev. 1880 (2013).
[4] Poikola, Antti, et al. MyData: An Introduction to Human-Centric Use of Personal Data. Third Updated English Edition, MyData Global, 2020.
注:本文作者张山立为山东大学法学院博士生,刘新海博士的研究助理,开展个人数据与个人隐私保护的相关研究。微信:18811157736,欢迎交流指正。