人工智能助手隐私正在成为苹果下一个软件时代最棘手的问题之一。真正有用的助手需要访问权限。它必须理解消息、日历事件、文件、照片、联系人、应用程序、位置、提醒、电子邮件、购买、锻炼、旅行计划以及 iPhone、iPad、Mac、Apple Watch、Vision Pro 和 iCloud 上已有的信息。如果没有这种背景，Siri 仍然受到限制。由于访问权限过多，该助手成为苹果有史以来构建的最敏感的系统之一。
这是隐私与访问争论的中心。用户想要一个能够真正提供帮助的助手。他们希望 Siri 找到收据、总结线索、重新安排会议、编辑照片、比较旅行计划、发送正确的文件、检查餐厅预订、了解屏幕上的内容，并在应用程序内采取行动。但其中每一项任务都需要获得查看或使用个人信息的许可。
苹果公司围绕这样的理念制定了人工智能战略：用户不必在有用的智能和隐私之间做出选择。苹果情报尽可能使用设备上处理，使用私有云计算处理更复杂的请求，并在需要时基于权限切换到外部模型（例如 ChatGPT）。苹果表示，私有云计算将类似 iPhone 的隐私保护扩展到了云端，其设计使得个人数据不会被存储或被苹果访问。
这种架构为苹果提供了强有力的隐私论据，但争论变得越来越激烈，因为人工智能助手的能力越来越强，对于操作系统也越来越重要。欧洲监管机构还在研究人工智能服务和虚拟助手是否应被视为《数字市场法案》规定的看门人层，这可能会迫使竞争对手获得更多的访问权限，同时引发有关隐私、安全和平台控制的新问题。
有用的助手需要敏感的上下文
AI 助手的隐私变得很困难，因为最好的助手功能是最个性化的功能。一般的聊天机器人可以在不了解用户太多信息的情况下回答公共问题。私人助理必须了解用户的生活。它必须知道正在引用哪个“妈妈”、明天的航班、昨天发送的文件、在海滩拍摄的照片以及哪个应用程序可以完成任务。
这就是为什么 Siri 的未来取决于个人背景。下一个版本的苹果助手不能只回答问题。它必须采取行动。这意味着阅读相关信息、选择正确的应用操作、确认敏感步骤并安全地完成请求。 App Intents 专为这个世界而设计，让开发人员公开应用程序操作，以便 Siri 和 Apple Intelligence 可以在整个系统中使用它们。
这创造了新的隐私边界。这不再仅仅是应用程序是否可以访问联系人或照片的问题。这是关于助手是否可以协调多个应用程序之间的多个数据来完成请求。助手提供的帮助越多，苹果就必须越仔细地解释系统正在做什么。
用户可能会很乐意要求 Siri 总结笔记。如果 Siri 在未经明确许可的情况下将应用程序数据发送到外部模型，则同一用户可能会感到不太舒服。这就是为什么苹果的交接模式很重要。超出苹果自身处理范围的请求需要明显的同意，尤其是当它们涉及外部系统时。
对于苹果公司来说，该公司可以将隐私作为界面的一部分。一个好的助手不应该只是能力强。它应该显示何时使用个人上下文、何时要求应用程序执行操作、何时需要确认以及何时涉及外部人工智能提供商。
外部模型使争论变得更加困难
当外部合作伙伴进入系统时，AI助手的隐私变得更加复杂。苹果可以控制自己的设备模型和私有云计算架构。一旦请求根据合作伙伴的规则移交，它对 ChatGPT、Gemini、Claude 或任何其他外部模型的控制就会减少。
Apple 目前的 ChatGPT 集成旨在使这种交接变得明确。在将信息发送到 ChatGPT 之前会询问用户，Apple 将该请求描述为离开 Apple 自己的处理环境。这种做法保护了信任，但也增加了摩擦。 Siri 越频繁地需要外部帮助，用户就越可能看到提示、标签或设置，提醒他们苹果自己的系统并不能处理所有事情。
如果 iOS 27 扩大了机型选择，这一点将变得更加重要。一个允许用户选择 Gemini、Claude、ChatGPT 或其他提供商来执行某些任务的系统可以使 Apple Intelligence 变得更加强大，但它也产生了新的责任：用户必须了解哪个模型处于活动状态以及该模型接收到哪些数据。
这就是苹果一贯的设计理念面临压力的地方。苹果喜欢让复杂性消失。人工智能隐私可能需要让一些复杂性变得可见。用户不需要每一个技术细节，但他们确实需要基本问题的明确答案。此请求是否保留在设备上？会转移到苹果的云端吗？它是否被发送到 OpenAI、Google、Anthropic 或其他提供商？包含哪些信息？用户可以阻止它吗？
iOS 内部最安全的外部人工智能版本并不是最隐形的。它使切换变得可以理解，同时又不会让体验感觉被破坏。
监管机构希望获得访问权限，苹果警告风险
人工智能助手的隐私现在与监管直接相关。欧盟委员会表示将研究某些人工智能服务是否应被视为 DMA 下的虚拟助理核心平台服务。欧洲广播公司还认为，虚拟助手可以成为手机、智能扬声器和车载系统媒体内容事实上的看门人。令人担忧的是，助手可能会决定用户听到、观看、购买、打开或发现什么。
这让苹果处于熟悉的境地。监管机构希望有竞争性和准入权。苹果认为，对操作系统层的深度访问可能会带来隐私、安全和设备完整性风险。该公司最近批评了欧盟旨在帮助竞争对手人工智能服务访问谷歌 Android 生态系统的措施草案，并警告称，强制访问核心服务可能会造成更广泛的隐私和安全问题。苹果担心的不仅仅是谷歌。这些规则可能为 iOS、iPadOS、macOS、Siri 和 Apple Intelligence 树立先例。
这是同一权衡的监管版本。如果苹果继续严格控制 Siri，竞争对手可能会认为苹果正在阻止助手层的竞争。如果苹果向竞争对手的人工智能助手开放深度系统访问，苹果可能会辩称用户的个人数据会变得更加暴露。
双方都没有完全错误。封闭的助手也可以成为把关人。如果访问范围广泛、限制有限或用户难以理解，开放的助手层可能会成为隐私风险。面临的挑战是设计允许竞争的规则，而不强迫平台以不安全的方式暴露敏感的设备上下文。
苹果的最强地位是受控的互操作性。竞争模型和开发者应用程序可以通过定义的 API、显式权限、应用程序意图和用户选择来参与。他们不应获得对个人数据或系统控制的全面访问权限。
开发商坐在中间
人工智能助手的隐私不仅仅是苹果与监管机构之间的问题。开发人员处于争论的中间。如果 Siri 变得更加强大，应用程序需要一种安全地公开操作和数据的方法。如果他们不这样做，助理可能会用通用模型答案绕过他们，从而削弱应用程序经济。如果他们暴露太多，用户可能会失去信任。
应用程序意图为开发人员提供了一种结构化的参与方式。食品应用程序可以公开订单操作。旅行应用程序可以公开行程更改。财务应用程序可以公开支出摘要。健身应用程序可以公开锻炼日志。然后，助理可以在用户许可的情况下使用这些操作，而不是抓取或猜测。
这对于隐私来说更好，因为应用程序定义了可以做什么以及在什么条件下可以做什么。它的可靠性也更好，因为动作是结构化的，而不是即兴的。模型不应该猜测如何转移资金、取消预订、发送消息或更改与健康相关的记录。它应该调用明确定义的操作，并在步骤敏感时要求确认。
这就是人类业务开发人员仍然很重要的地方。人工智能可以生成文本、总结数据并提出行动建议。开发人员和公司必须围绕现实世界的任务定义安全边界。助手需要访问权限，但应用程序需要规则。
能够很好地处理这一问题的应用程序可能会在人工智能优先的 iOS 中变得更有价值。他们不仅有接口。他们将拥有 Siri 可以调用的可信功能。
最好的助手在行动前会询问
AI助手隐私取决于确认。 Siri 变得越强大，助理知道何时提问就越重要。低风险任务可以很快发生。高风险任务应需要批准。
总结一下公共网页的风险是低的。起草消息属于中等风险。发送该消息的风险较高。更改航班、购买、共享文件、删除数据、转移资金、解锁智能锁或暴露与健康相关的信息都应该需要明确的确认。
这就是苹果可以将隐私转化为产品设计的地方。助理不应该感觉自己像一个在后台活动的不可预测的特工。它应该感觉像一个值得信赖的助手，准备行动，解释将要发生的事情，并在跨越敏感界限之前提出询问。
永远在线的代理权力使这一点变得更加重要。未来的 Siri 可能会监控上下文、建议操作并在应用程序之间保持可用。这可能会有所帮助，但如果用户感觉手机一直在观看，也会引起担忧。苹果需要清晰的设置、可见的状态指示器以及对后台访问的严格限制。
人工智能辅助的最佳版本并不是一个自动完成所有事情的系统。它是一个知道自动化何时安全、何时需要人工批准的系统。
隐私和访问必须共同成熟
人工智能助手的隐私将决定苹果的人工智能战略是否值得信赖。一个软弱的助手是没有用的。一个过度扩张的助手是不会被信任的。苹果必须让 Siri 变得更强大，同时让用户掌控一切。
这意味着在设备上处理最个性化和最轻量级的任务。私有云计算适用于需要更多电力但应留在内部的复杂请求苹果的隐私建筑学。具有明确许可的选定任务的外部模型。用于结构化开发人员参与的应用程序意图。敏感行动前的强烈确认。当数据离开苹果系统时的透明标签。
争论不会很快结束。监管机构将继续推动准入。开发人员希望 Siri 内部具有可见性。人工智能合作伙伴将希望进行更深入的整合。用户希望在不牺牲隐私的情况下获得更多有用的功能。苹果将尽力保持界面简单，同时应对所有这些压力。
助理层可能成为 iPhone 最敏感的部分，因为它位于应用程序、服务、文件、消息、照片和个人日常事务之上。它可以使该设备更加有用。如果处理不当，它也可能成为新的看门人。
苹果面临的挑战是证明访问并不一定意味着曝光。下一个 Siri 必须足够个性化以提供帮助、足够有限以确保信任、足够透明以让用户了解助理何时为他们工作，而不是为了方便而悄悄地牺牲隐私。
