设备上的人工智能已成为苹果公司最紧迫的技术战之一，该公司试图使iPhone智能更快、更私密、更少依赖云服务器。一份新报告称，苹果公司已与 PrismML（一家与加州理工学院相关的初创公司，致力于极端模型压缩）举行了会议，讨论其技术如何帮助更大的规模AI模型运行直接在 iPhone 上。
此前，PrismML 声称其压缩了阿里巴巴开源的 Qwen 3.6 模型，包含 270 亿个参数，可以完全在 iPhone 17 Pro 上运行。这将比苹果报道的设备上 AFM 3 Core Advanced 模型更大，据说该模型拥有 200 亿个参数，并为较新设备上的一些 iOS 27 功能提供支持。
苹果尚未宣布与 PrismML 建立合作伙伴关系，会议也没有确认这家初创公司的技术将出现在未来的产品中。尽管如此，这个方向还是很容易理解的。苹果希望更多的智能发生在本地，但 iPhone 硬件在内存、电池寿命、热量和存储方面有严格的限制。更好的压缩可以为公司提供更多空间来改进 Siri、语言工具、视觉智能和离线功能，而无需将每个苛刻的请求发送到云端。
设备上的人工智能听起来像是一个软件功能，但真正的限制是硬件。大型模型需要内存、快速数据移动、功效和热空间。手机不能像数据中心一样工作。它必须在薄外壳内运行，延长电池寿命，避免热峰值并与相机、显示器、调制解调器、应用程序和系统服务共享资源。
这就是模型尺寸很重要的原因。较大的模型通常可以处理更复杂的任务，但前提是它可以装入内存并运行得足够快以感觉有用。如果本地模型花费太长时间，耗尽电池或加热设备，用户会觉得它是坏的，而不是先进的。
苹果试图通过分层方法来解决这个问题。有些任务直接在设备上运行。较重的请求可以转移到私有云计算，这是苹果公司的系统，用于在围绕隐私保护设计的服务器上处理更大的工作负载。 ChatGPT 和其他外部模型集成还可以在用户批准时处理选定的请求。https://prismml.com/news/prismml-launches-worlds-first-1-bit-ai-model
这种结构为苹果提供了灵活性，但本地处理仍然很有价值。它可以减少延迟，无需强连接即可工作，保护设备上的更多数据，并使人工智能功能感觉内置于手机中，而不是通过远程服务附加。 PrismML 的宣传似乎直接瞄准了这一差距。
为什么 PrismML 受到 Apple 的关注
棱镜ML专注于缩小型号通过积极的量化和压缩。该公司推广了 1 位模型工作，旨在减少内存使用、提高速度并减少能源需求。它更广泛的主张是，大型模型可以做得足够小，适合消费设备，而不会损失太多功能。
据报道，Qwen 演示非常引人注目，因为 270 亿个参数通常很难适合智能手机。这种尺寸的模型如果以传统格式运行，将需要比 iPhone 能够轻松提供的更多的内存。压缩通过减少模型所需的空间以及推理过程中必须移动的数据量来改变方程。
这并不意味着压缩模型会在每个任务中自动匹配原始模型。压缩通常会在准确性、推理质量、输出一致性和专门行为方面产生权衡。真正的问题是损失是否足够小，足以支持 iPhone 的实用功能。在本地、快速且私密地运行的稍弱的模型可能比每个请求都依赖于远程服务器的更强的模型更有用。
苹果已经拥有深厚的机器学习团队和自己的模型优化工作。像 PrismML 这样的初创公司之所以有趣，是因为它有可能加速一个特定领域的发展：将更大的模型安装到苹果已经控制的设备外壳中。
更大的本地模型可能会改变 Siri 和视觉智能
如果苹果可以在 iPhone 上运行更大的型号，第一个影响可能是需要上下文和速度的功能。 Siri 可以在本地处理更多请求、理解更长的指令并以更少的延迟做出响应。听写可以通过更好的语言理解来提高。离线书写工具可能会变得更有用。照片、屏幕截图和视觉搜索可以处理更丰富的信息，而无需经常路由到云系统。
最有价值的改进可能是可靠性。云支持的人工智能可以很强大，但它取决于连接性、服务器负载和隐私路由。更强大的本地模型为苹果提供了更一致的基准体验。这对于日常任务很重要，例如在消息中查找信息、总结笔记、整理照片、识别对象或将自然语言转化为跨应用程序的操作。
它还可以帮助苹果公司在未来的 iPhone 中脱颖而出。如果较大的型号需要更新的芯片、更多的内存或更宽的内存带宽，该公司可以将先进的人工智能功能与专业硬件结合起来，同时仍然在旧设备上保留较小的功能。该模式已经出现在苹果情报，其中设备资格取决于芯片和内存要求。
PrismML 报告中的 iPhone 17 Pro 参考也与之相关。与旧型号相比，新款 iPhone 拥有更强大的神经引擎、更好的内存系统和更强的散热设计。如果苹果想让本地智能成为一个卖点，Pro 型号可能会成为功能更广泛之前的测试平台。
隐私是商业论据
苹果最强大的人工智能信息仍然是隐私。在设备上运行更多智能可以支持该消息，因为敏感提示、图像、文档、消息和个人背景不需要经常离开手机。这符合该公司的长期立场，即个人数据应该通过设计来保护，而不是通过模糊的承诺来处理。
当本地处理不够时，私有云计算是苹果的解决方案。但该公司仍希望尽可能在 iPhone 上保留更多请求。它降低了基础设施成本，提高了速度，并避免要求用户了解太多云路由决策。
模型压缩还可以帮助苹果公司应对云人工智能合作伙伴关系和监管产生摩擦的地区。本地模型比第三方云服务更容易控制，尤其是在数据和模型审批有严格规则的市场中。功能更强大的设备端模型可以让苹果在各个地区拥有更多的独立性，即使某些云功能仍然需要当地合作伙伴或监管部门的审查。
但这并不能消除所有担忧。更大的本地模型仍然会引发有关存储、误用、幻觉、应用程序访问以及系统可以使用多少个人上下文的问题。如果这些模型在 iOS 中变得更加强大，苹果将需要权限控制和明确的边界。
从会议到产品的漫长道路
苹果与许多初创公司会面，并不是每次讨论都会成为收购、许可交易或产品功能。 PrismML 的技术还需要深入测试，苹果才能在 iOS 中信任它。该公司必须衡量质量、安全性、功耗、延迟、内存行为以及跨语言和任务的一致性。
集成还存在工程挑战。压缩模型只是堆栈的一部分。 Apple 需要将其连接到核心机器学习、神经引擎、系统应用程序、隐私控制、开发人员 API 和 Siri 的操作层。该模型还必须能够经受住现实世界的使用，而不仅仅是实验室演示。
尽管如此，该报告还是指出了正确的问题。苹果不需要只建立在更大的云模型上的聊天机器人竞赛。它需要 iPhone 智能，让人感觉即时、私密且可以在人们已经携带的设备中使用。更好的压缩可能成为使这成为可能的安静技术之一。
下一个信号将是苹果未来的芯片是否会专门针对本地型号添加更多内存、更宽带宽和更强的神经引擎能力。如果这与 iOS 的软件进步相一致，更大的设备端人工智能可能成为升级到下一代 iPhone 的主要原因之一。
