把网络想象成一个拥有自身社会契约的数字领土。2014年，蒂姆·伯纳斯-李呼吁制定《网络大宪章》，以恢复个人与机构之间的权力平衡。这体现了最初宪章的宗旨：确保占领领土的人在其治理中拥有有意义的利益。
Web 3.0------未来的分布式、去中心化网络------最终将通过将所有权归还给数据创造者来改变互联网的格局。这将彻底改变数字安全领域中常被描述为"CIA三要素"的诸多方面：机密性、完整性和可用性。在这三个要素中，数据完整性将变得至关重要。
当我们在数字空间中拥有自主权时，我们自然会维护其完整性------保护它们免遭破坏，并有意识地塑造它们。但在被遥远的平台控制的领域，我们只是短暂的访客，这种联系就会断裂。从数据中获益的人与承担完整性受损后果的人之间出现了脱节。就像非常在意维护自己房产的房主一样，Web 3.0 范式中的用户将成为其个人数字空间的管家。
在人工智能代理不仅能回答我们的问题，还能代表我们采取行动的世界里，这一点至关重要。这些代理可以执行金融交易、协调复杂的工作流程，并自主运营关键基础设施，做出影响整个行业的决策。随着数字代理变得更加自主和互联，问题不再是我们是否信任人工智能，而是这种信任建立在什么之上。在我们即将进入的新时代，信任的基础不再是智能或效率，而是诚信。
什么是数据完整性？
在信息系统中，完整性是指保证数据不会被未经授权修改，并且所有转换在数据整个生命周期内均可验证。可用性确保系统正常运行，机密性防止未经授权的访问，而完整性则侧重于信息是否准确、未被篡改，以及是否跨系统、随时间保持一致。
这是一个新想法。用于防止意外数据丢失的撤销按钮是一种完整性功能。将计算机恢复到已知良好状态的重启过程也是一种完整性功能。校验和是一种完整性功能；网络传输验证也是一种完整性功能。如果没有完整性，安全措施可能会适得其反。加密损坏的数据只会锁住错误。那些可用性高但传播错误信息的系统只会成为风险的放大器。
所有IT系统都需要某种形式的数据完整性，但如今在两个领域尤为突出。首先：物联网设备直接与物理世界交互，因此损坏的输入或输出可能会对现实世界造成危害。其次：人工智能系统的可靠性取决于其训练所用数据的完整性以及其决策过程的完整性。如果这些基础不牢固，结果也会不堪设想。
完整性体现在四个关键领域。首先，输入完整性，关乎进入系统的数据的质量和真实性。一旦出现问题，后果可能非常严重。2021年，Facebook的全球宕机事故就是由一个错误命令引发的------自动化系统漏掉了一个输入错误。保护输入完整性需要对数据源进行可靠的身份验证、对传感器数据进行加密签名，以及为交叉验证提供多样化的输入通道。
第二个问题是处理完整性，它确保系统正确地将输入转换为输出。2003年，美加停电事件影响了5500万人，原因是控制室程序未能正确更新，造成的损失超过60亿美元。维护处理完整性意味着需要对算法进行形式化验证、对模型进行加密保护，并监控系统的异常行为。
存储完整性涵盖信息在存储和传输过程中的正确性。2023年，由于数据库文件损坏，美国联邦航空管理局被迫暂停所有从美国出发的航班。应对这一风险需要采用加密方法，使任何修改在计算上都无法被检测到，需要采用分布式存储系统来防止单点故障，并需要严格的备份程序。
最后，情境完整性根据更大情境的规范处理信息流的合理流动。数据仅仅准确是不够的；还必须以尊重期望和界限的方式使用。例如，如果智能音箱监听家庭日常对话，并利用这些数据构建广告档案，那么这种行为就违反了数据收集的预期界限。维护情境完整性需要明确的数据治理政策、将数据使用限制在其预期用途的原则，以及执行信息流约束的机制。
随着人工智能系统在越来越少的人类监督下做出关键决策，诚信的所有这些方面都变得至关重要。
Web 3.0 中的诚信需求
随着数字领域从 Web 1.0 转向Web 2.0，如今又向 Web 3.0 发展，我们看到每个时代都对CIA 的机密性、完整性和可用性三位一体带来了不同的强调。
回到我们家的比喻：当拥有一个庇护所至关重要时，可用性就显得尤为重要------房子必须存在并且实用。一旦这个基础稳固，保密性就变得至关重要------你需要锁上门，防止他人进入。只有在这些基本要素建立之后，你才会开始考虑完整性，以确保房子里的东西始终可信、不变且始终如一。
20 世纪 90 年代的 Web 1.0 优先考虑信息的可获取性。各组织机构将其内容数字化，供任何人访问。在 Web 2.0（即当今的网络）中，电子商务、社交媒体和云计算平台将隐私保护放在首位，因为个人数据已成为互联网的货币。
不知何故，诚信在这一过程中逐渐丧失。在我们当前的网络架构中，控制权集中化，不再由个人用户掌控，对诚信的关注也随之减弱。庞大的社交媒体平台营造出一种环境，在这种环境中，没有人对传播内容的真实性或质量负责。
Web 3.0 有望通过将所有权归还给数据所有者来改变这种现状。这并非臆测，而是已经初现端倪。例如，Mastodon等去中心化社交网络背后的协议ActivityPub就将内容共享与内置归因功能相结合。Tim Berners-Lee 的Solid 协议则围绕个人数据容器重构了 Web，并提供了精细的访问控制。
这些技术通过加密验证来确保完整性，以证明作者身份；去中心化架构消除了易受攻击的中央权威；机器可读的语义使意义明确------结构化的数据格式使计算机能够理解参与者及其行为，例如"Alice 为 Bob 做了手术"------以及透明的治理，使规则对所有人都可见。随着人工智能系统变得更加自主，并通过标准化协议直接相互通信，这些完整性控制对于维护信任至关重要。
为什么数据完整性在人工智能中如此重要
对于人工智能系统而言，完整性在四个领域至关重要。首先是决策质量。随着人工智能在医疗、司法和金融领域的决策中发挥越来越重要的作用，数据和模型行为的完整性直接影响着人类福祉。其次是问责制。了解故障原因需要可靠的日志记录、审计跟踪和系统记录。
第三个领域是组件之间的安全关系。许多身份验证系统依赖于身份信息和加密密钥的完整性。如果这些元素受到损害，恶意代理可能会冒充受信任的系统，从而可能在AI代理基于损坏的凭证进行交互和决策时造成连锁故障。
最后，诚信在我们公开的安全定义中至关重要。世界各国政府正在出台人工智能规则，重点关注数据准确性、算法透明性以及系统行为的可验证性。诚信是履行这些法律义务的基础。
随着人工智能系统被赋予更多关键应用，并在更少的人工监督下运行，完整性的重要性只会日益凸显。虽然人类有时能够检测到完整性漏洞，但自主系统不仅可能错过警告信号，还可能成倍增加违规的严重程度。如果没有完整性的保证，组织将不会信任人工智能系统执行重要任务，我们也将无法充分发挥人工智能的潜力。
如何构建诚信的人工智能系统
想象一下，人工智能系统就像我们共同建造的家。这个家的完整性并非取决于单一的安全功能，而是取决于诸多元素的精心整合：坚实的地基、精心建造的墙体、房间之间清晰的通道，以及关于空间使用方式的共同约定。
我们首先奠定基石：加密验证。数字签名确保数据沿袭可追溯，就像产权契据证明所有权一样。去中心化标识符充当数字护照，允许组件独立证明身份。当我们人工智能之家的前门通过访客自己的钥匙而非脆弱的中央门卫识别访客时，我们就在信任架构中创造了韧性。
形式化验证方法使我们能够以数学方式证明关键组件的结构完整性，确保系统能够承受施加在其上的压力------尤其是在生命可能取决于人工智能决策的高风险领域。
正如精心设计的房屋会划分不同的空间，值得信赖的人工智能系统也构建了周到的分区划分机制。我们不依赖单一的屏障，而是通过层层叠加来限制某个区域的问题对其他区域的影响。正如厨房火灾可以通过防火门和独立的烟雾报警器得到控制一样，训练数据与人工智能的推理和输出数据也相互独立，从而限制任何单一故障或漏洞的影响。
在整个人工智能之家，我们致力于将透明度融入设计之中：如同大窗户般，光线可以照进每个角落，从输入到输出的路径清晰可见。我们安装了监控系统，持续检查系统缺陷，在小问题演变成灾难性故障之前发出警报。
但家不仅仅是一个物理结构，它也是我们就如何在其中生活而达成的共识。我们的治理框架正是这些共识的体现。在迎接新住户之前，我们会为他们提供认证标准。正如房东进行信用审查一样，我们也会进行诚信评估来评估新住户。我们努力成为好邻居，使我们的社区协议与更广泛的社会期望相一致。或许最重要的是，我们认识到，我们的人工智能之家将容纳拥有不同需求的多元化个体。我们的治理结构必须反映这种多样性，让众多利益相关者参与进来。一个真正值得信赖的系统不能只为其建造者设计，而必须服务于所有最终被授权将其称为家的人。
这就是我们创建值得信赖的人工智能系统的方式：不是盲目相信它们的完美，而是因为我们有意在各个层面设计了完整性控制。
语言的挑战
与"可用"或"私密"等其他安全属性不同，"完整性"没有通用的形容词形式。这使得谈论它变得困难。原来英语中有一个词："integrous"（完整性）。《牛津英语词典》记录了这个词在17世纪中期的使用，但现在已宣布它已过时。
我们认为这个词需要复兴。我们需要能够完整地描述一个系统。我们必须能够谈论完整的系统设计。
未来之路
确保人工智能的完整性面临着巨大的挑战。随着模型规模越来越大、越来越复杂，在不牺牲性能的情况下保持完整性变得越来越困难。完整性控制通常需要计算资源，这可能会降低系统速度，对于实时应用来说尤其具有挑战性。另一个担忧是，量子计算等新兴技术威胁着现有的密码保护机制。此外，现代人工智能的分布式特性------依赖于庞大的库、框架和服务生态系统------带来了巨大的攻击面。
除了技术之外，诚信在很大程度上取决于社会因素。公司通常优先考虑上市速度，而不是强大的诚信控制。开发团队可能缺乏实施这些控制的专业知识，并且可能发现将其集成到遗留系统中尤为困难。尽管一些政府已经开始针对人工智能的各个方面制定法规，但我们需要全球协调一致，共同治理人工智能的诚信问题。
应对这些挑战需要持续研究如何验证和执行完整性，以及如何从违规行为中恢复。重点领域包括：分布式学习的容错 算法、加密数据的可验证计算、在对抗性攻击下维护完整性的技术，以及标准化的认证指标。我们还需要能够清晰地向人类监督者传达完整性状态的界面。
随着人工智能系统日益强大和普及，诚信的重要性也空前高涨。我们正迈入一个时代：机器与机器之间的交互和自主代理将在更少的人工监督下运行，并做出具有深远影响的决策。
好消息是，构建完整性系统的工具已经存在。我们需要的是思维方式的转变：不再将完整性视为事后诸葛亮，而是承认它是人工智能安全的核心组织原则。
下一个科技时代，定义它的并非人工智能能做什么，而是我们能否信任它知道、尤其是相信它做正确的事情。诚信------全方位的------将决定答案。