OKG Research|编辑
近日,OpenAI 发布了新模型 Sora。这是一款高性能的文本到多模态生成工具,支持从文本生成精细的图像和动态视频。
相较早先发布的视频样例,该功能目前已经可以由用户真实上手体验,目前由于服务过载已暂停注册。但从官网选取的片段来看,其生成的图像和视频精度大大提升,有些甚至难以分辨是否为AI生成,AI在此刻变得更加具象化了!
Pic Source:OpenAI Official Page
但随着AI技术的飞速发展,虚假内容生成的门槛被大幅降低,进一步也带来了更多潜在风险:AI生成的换脸视频、深度伪造等开始渗透进日常生活。面对这一挑战,Web3 技术正为我们带来新的解决思路。
由OpenAI, Harvard Society of Fellows, Microsoft, University of Oxford, a16z crypto等多家公司的研究人员发布了探讨,一种应对这一挑战的新工具的价值:**"人格证书"(Personhood Credentials, PHCs)。**这种数字凭证使用户能够在不披露任何个人信息的情况下,证明自己是真实的人。
AI生成内容的泛滥:一场信任危机
AI生成逼真的内容(如深度伪造)、冒充他人的行为、以及成本低廉的女巫攻击正在威胁在线互动的真实性和安全性。
传统的应对措施,例如 CAPTCHA 或异常检测,已经无法跟上复杂 AI 的步伐,而严格的身份验证则要求用户披露个人信息,损害了网络隐私权。
这种困境催生了对隐私保护和身份验证的新需求:如何既保护用户的匿名性,又能有效验证在线用户是真实的人类,而非 AI 生成的虚假身份?
人格证书(Personhood Credentials, PHCs):新一代的身份验证工具
《人格证书:人工智能与保护隐私的真实性验证方法的必要性》一文提出了一个极具潜力的解决方案:
人格证书(PHCs)是一种数字凭证,旨在使用户能够在不披露任何个人信息的情况下,向在线服务证明自己是真实的人类,而非人工智能(AI)。这些凭证可以由各种可信机构(如政府或其他组织)签发,可以是本地化的或全球性的,并且不需要基于生物特征。
它的出现,有望进一步应对在AI广泛使用的未来,由AI产生的信息或服务可以被合理区分,通过人格证明的方式,建立AI和人之间的"类户籍制度"。
在网络环境中PHCs可以实现大规模真实用户的真实输入与互动,避免虚假账户伪装为不存在的个人, 阻止机器人协调攻击绕过平台规则,继续滥用网络服务, 表明已授权AI Agents是可信用户的代理,而非恶意行为者的代理。
这样有利于降低AI产生的虚假信息泛滥以及身份冒用问题,确保在线生态的可信度和安全性。
这一方案不需要依赖全球统一的生物特征验证,而是可以通过政府或其他可信机构本地化签发,适配不同场景。
Pic Source:https://arxiv.org/pdf/2408.07892
PHCs 的技术实现路径
目前,PHCs的概念主要基于对匿名凭证和"身份验证"系统的长期研究。虽然具体的实施方案仍在开发中,但已有一些相关技术为PHCs的实现奠定了基础。
-
零知识证明( ZKP ): PHCs可以利用零知识证明技术,用户在不披露具体身份信息的情况下,证明自己是独立的真实人类。
-
去中心化身份(DID): 通过去中心化身份框架,用户可以创建和管理自己的数字身份,而无需依赖中央机构。
-
多方签名和信任网络: 可信机构可以通过多方签名的方式,共同验证用户身份,形成信任网络。
PHCs 的优势
-
**隐私保护:**用户无需披露个人数据即可验证真实性,保护了数字隐私。
-
**增强信任:**通过阻止虚假身份和深度伪造内容的传播,PHCs 能为数字社会建立更牢固的信任基础。
-
非生物特征依赖:PHCs的验证过程不依赖于生物特征数据,避免了相关的隐私和安全问题。
-
**促进去中心化身份(DID)和平台发展:**PHCs 可赋能 Web3 去中心化社交平台,使用户能够更好地掌控个人身份和数据。
此前,行业亦有Web3 项目在做去中心化身份方面的尝试,如OpenAI联合创始人Sam Altman于2023年推出的Worldcoin,它试图提供生物识别驱动的去中心化身份,试图解决女巫攻击和虚假账户问题。
但就虹膜采集的问题和相关隐私数据后续安全问题广受争议,但其大规模试验表明,用户对简单、去中心化的身份验证方式有强烈需求。
Pic Source:The hardware device for Worldcoin https://liamhorne.com/world-chain
虽然 PHCs 展现了巨大的潜力,但其部署和实施仍面临诸多挑战:
-
安全性:防止 PHCs 系统被滥用或攻击,确保数据在传输和存储过程中的安全。
-
可访问性:确保各类用户都能方便地获取和使用 PHCs,尤其是那些技术水平较低或资源受限的群体。
-
标准化:需要制定统一的技术标准,确保互操作性和可扩展性。
AI与Web3结合的可能性
去中心化社交平台中,PHCs 可与区块链技术结合。例如,当用户登录dApp时,通过验证 PHCs,平台可以在不收集任何敏感数据的情况下确认用户的真实性。这将为应对深度伪造内容提供有效支持,同时防止恶意机器人账号泛滥。
PHCs还可用于去中心化身份(DID)系统,与AI生成的内容版权管理、抗深度伪造和社区治理等领域形成协同效应。例如,通过绑定PHCs,用户可以在Web3生态中验证身份真实性,确保治理决策的公平性;而NFT与PHCs结合可为AI创作的内容提供溯源与版权保护。
通过AI与PHCs的结合,还可以在数字经济活动中构建信任激励机制。例如,在去中心化工作平台中,雇主可以通过PHCs确认自由职业者的真实性,同时利用AI分析匹配最合适的协作者。这种模式将有效减少欺诈风险,提升协作效率。
从信任危机到信任重建
PHCs 的意义不仅仅在于解决当前的信任危机,更在于为数字社会奠定信任的基石。PHCs有望作为国际上数字身份互认的基础,减少跨境在线活动中的欺诈风险。通过 PHCs,人类可以更有效地管理与 AI 的互动,从而实现人机协作的良性发展。
通过结合区块链的透明性和去中心化特性,PHCs 为构建可信的数字身份和网络生态提供了全新的想象空间。PHCs 不仅对技术和商业领域产生影响,还将引发关于隐私权、数字身份和技术伦理的深入讨论。政策制定者、技术专家和标准组织需要与公众共同推进 PHCs 的开发与实施,为数字社会开创更安全、更可靠的未来。
文章部分内容及论文引用自以下链接: