AI 时代，如何为消费电子设备的安全性保驾护航？

者：Arm 终端事业部技术战略及业务拓展总监 卢旻盛

人工智能 (AI) 为消费电子设备实现了更综合、更加个性化且更智能的体验。而这也意味着设备上运行的软件和系统将愈发复杂，对安全性产生了直接的影响。举例来说，如果代码行数增加 10 倍，出现更多漏洞的风险也会增加 10 倍。

虽然端侧 AI 创造了大量的机遇，新模型、功能、算子类型和量化技术不断涌入市场，但这种快速的变化在安全方面也带来了严峻的挑战，尤其是对消费电子设备而言。因此，建立起保护客户隐私与数据的安全技术和倡议，必须与 AI 带来的优势和持续机遇相辅相成。

本文，我们将探讨针对消费电子设备（尤其是智能手机）上的 AI 用例，以及我们在计算和数据安全方面应该有怎样的设计思考。

常见的 AI 安全挑战

无论是用于内容创作还是日常使用，具有 AI 功能的智能手机依然是消费者最常使用的个人电子设备。在智能手机上，新的 AI 创新、模型和用例层出不穷，而这些 AI 需要更多的数据才能提供更加个性化的体验。因此，AI 会在这些设备上收集大量数据，这也使得消费者隐私和数据保护成为越来越重要的考量因素，并重点关注新的资产、攻击途径和软件栈。

恶意行为者可以利用 AI 发动可扩展的攻击，攻击者只需付出极少的努力或成本，便能在许多设备上高效执行这些攻击。如相关产业报告 ^[1] 所述，AI 可通过深度伪造，对身份验证和访问控制（如基于语音和生物特征的身份验证）构成威胁，使设备及其内容面临被黑客攻击和假冒的风险。

什么是 Arm 安全原则？

作为一家将最终用户的安全、信任和隐私放在战略首位的公司，Arm 通过开发新特性和新技术来持续优化产品路线图。Arm 架构提供一整套的安全特性，目的是防范不法分子的攻击，并在设备使用期间抵御新的威胁。这些安全特性一方面是为了增加黑客的攻击难度，使攻击行为需要耗费大量资源和时间，不再具有经济价值，另一方面是为了保护全球消费者的重要凭证和数据。

在保护消费电子设备的计算安全方面，Arm 的基本原则侧重于以下部分：

通过避免代码出现漏洞，使开发者能够“基于 Arm 平台创建更好的软件”，从而确保任何 AI 应用都能实现预期成果，防止被非法侵占；

通过可信执行环境，随时随地保护数据和计算免受不法分子的攻击；

持续改进消费电子设备的功耗、性能和面积 (PPA)，以促进更多计算任务在本地（端侧）和个人设备上完成 —— 基本上可以实现任何在设备上进行的计算都会保留在设备上；

为旨在保护用户隐私和数据的倡议贡献力量；

应对不断变化的威胁环境和新的安全风险。

Arm 如何保护软件安全

随着代码量的增加，漏洞和发生人为错误的可能性也会攀升。因此，Arm 在根源处设置保护措施并建立“设计保证安全 (security by-design)” 的环境，从而保护软件安全。此举可确保在开发周期中尽早发现任何安全漏洞，使任何 AI 应用都能实现预期成果而不被非法侵占，同时提供与操作系统 (OS) 的隔离，确保任何应用及其内容都能保持完整性。

通过与安卓的合作，Arm 推出新的 Armv9 安全特性与技术，助力在基于 Arm 架构的安卓移动设备上提供更优质、更安全的软件，从而帮助计算基础设施实现巨大突破。例如 Arm 的指针验证 (PAC)、分支目标识别 (BTI) 和 内存标记扩展 (MTE) 技术 ，它们有助于消除黑客以往利用过的各种内存安全漏洞。这一点非常重要，因为 Google 的 Chromium 项目团队指出 ^[2] ，内存安全问题在所有严重安全漏洞中占到了 70%。侵害内存安全可能会对用户产生巨大不利影响，因为恶意应用和不法分子会利用不安全的内存来访问机密和敏感数据，比如用户凭证和密码。消除整类漏洞后，构建漏洞利用链的难度将大幅增加。

如何随时随地保护数据

相较于在设备与云端和数据中心之间来回传输数据，在端侧运行 AI 处理具有延迟低、功耗小和成本低等优势，因此这种做法正变得越来越普遍。然而，在某些情况下，考虑到模型或数据的体量，AI 处理仍需要在云端进行。

因此，一套混合安全的模式有其必要性，能从云端到端侧提供全程保护。Arm 提供从云端到移动端的隔离技术，比如 TrustZone、虚拟化和机密领域管理扩展 (RME)。RME 是 Arm 机密计算架构 (CCA) 的硬件组件，允许对模型进行机密处理并提供保护环境，以防不法分子窃取个人数据。此外，云端和端侧一旦具有相似的安全态势，就意味着数据可以在相同的安全边界内无缝流动和共享，从而使混合部署得以进一步扩展。

如何实现更加个性化的计算

在边缘侧进行 AI 处理有助于更好地保护消费者的数据隐私，同时也有利于在设备上提供个性化的计算体验。如果数据不离开设备，就不用担心存储在云端的数据可能发生泄露风险。得益于消费电子设备算力的不断提升，更多的端侧 AI 成为可能。例如，过去 10 年间，通过 新的 CPU 、 GPU 、 Arm 终端计算子系统 (CSS for Client) 和 Arm Kleidi 软件库 等 Arm 技术，基于 Arm 架构的移动设备的计算性能提高了 110 倍。

如今，Arm 持续在 Armv9 架构中实现更多的 AI 加速特性，如 可伸缩矩阵扩展 (SME) 。通过 SME，更多的高级 AI 工作负载可在边缘侧处理，从而在消费电子设备上提供更加个性化的计算体验。此外，Arm 安全技术有助于支持可验证的安全环境，并允许在创建和存储内容的 AI 智能手机上安全地处理图像处理管线。

为行业倡议和标准贡献力量

Arm 正积极参与并推动全球性倡议，比如旨在保护内容和数据免遭不法分子利用的内容来源和真实性联盟 (Coalition for Content Provenance and Authenticity, C2PA)。而且，Arm 积极参与致力于为未来 AI 安全奠定基础的组织，如可信计算组织 (Trusted Computing Group, TCG) 和开源安全基金会 (OpenSSF)。

新涌现的 AI 安全用例

与此同时，Arm 与生态系统持续合作，以应对新涌现的 AI 安全用例，例如：

开发者不希望自己的 AI 模型暴露给其他第三方，而 OEM 厂商着眼于为在传输（指数据在两个来源或系统之间移动时）和执行（指数据加载到内存中并准备由应用进行处理时）过程中部署模型的开发者提供安全保护；

遵守全球网络安全法规，保障弱势群体免受非法或有害内容的侵害；

与 OEM 伙伴合作，为其设备上生成的内容提供内容来源信息；

为用于监控和检测异常行为、欺诈与诈骗的 AI 模型提供保护；

保护为提供更加个性化的体验和建议而存储于不同设备和服务中的个人用户数据。

Arm 将不断研究新的安全解决方案、特性和技术，以应对许多新出现的用例和威胁，从而确保在产品开发周期结束后，生态系统仍能得到长期保护。

Arm 安全基础

在 Arm，安全是一切工作的重中之重，内置架构特性和技术可为全球数十亿基于 Arm 架构的消费电子设备的安全性提供支持，进而为各种消费电子设备上的 AI 工作负载提供了安全基础。在 AI 时代，Arm 的产品和原则将持续演进，为计算技术的未来发展保驾护航。