苹果正全力推进大模型轻量化,实现 iPhone 本地运行高性能 AI,此举既能削减云端算力成本,也能更好保护用户隐私。而一家今年刚结束隐身运营的小型初创公司表示,其近期成功在 iPhone 上部署了一款参数量远超以往所有移动端模型的大模型。
这家名为 PrismML 的初创企业称,已将中国互联网巨头阿里巴巴开源的大语言模型通义千问 3.6(Qwen 3.6) 完成轻量化压缩,可在 iPhone 17 Pro 本地完整运行。该模型拥有 270 亿参数 —— 参数类似于人脑突触,决定模型可处理数据的复杂程度。反观市面上绝大多数手机端本地模型,单次仅能激活几十亿参数。
万亿参数级别的超大型模型,目前依旧无法在移动设备上运行。但 PrismML 表示,这款在 iPhone 上落地的 270 亿稠密模型,可完成复杂对话、深度逻辑推理、全自动智能体、代码开发等高难度任务。该开源模型将于下周二开放下载。
这一尚未对外披露的技术里程碑,反映行业整体趋势:推动 AI 计算从成本高昂的数据中心服务器,迁移至终端设备本地运行。微软、亚马逊、Meta 等巨头已投入数千亿美元兴建算力中心,应对市场预期的 AI 需求爆发。
但苹果并未跟风投入巨额资金建设算力集群,反而公开主张让 iPhone 尽可能多的 AI 功能脱离云端、在本机运行。苹果认为,端侧 AI 能更好兑现对用户的隐私与安全承诺。
PrismML 首席执行官巴巴克・哈西比在采访中预判,未来绝大多数 AI 计算都将在终端设备本地完成。
“设想三年后的场景:95% 的智能运算都能在你的手机、笔记本、智能家居设备本地完成,仅有 5% 超高算力需求的任务需要调用云端。行业普遍都看好这条发展路径。” 哈西比说道。
哈西比补充,模型轻量化本地部署 “从根本上重塑 AI 产业的成本结构”。
多家头部 AI 投资机构看好这家初创公司的技术路线。OpenAI 首轮投资方Khosla风投(Khosla Ventures)今年初参与了 PrismML 1625 万美元种子轮融资。机构创始人维诺德・Khosla在采访中表示,PrismML 的技术属于 “根本性突破”,因此决定投资。
“2018 年我们投资 OpenAI,重仓 Transformer 架构;如今行业需要全新的 AI 构建思路,我们团队一直在挖掘这类创新方案。” Khosla说。
PrismML 依靠一套独创数学算法,将通义千问 3.6 压缩至原体积零头。常规模型压缩技术普遍会造成性能衰减,但该企业宣称自研轻量化方案不会损害模型效果。他们把原本 54GB 左右的通义千问 3.6 压缩至 4GB 以内。
PrismML 脱胎于加州理工学院,CEO 哈西比是该校电子工程教授,他与联合创始人在校内完成了这套核心数学算法研发。加州理工持有该技术全部专利,独家授权 PrismML 商用。
哈西比透露,PrismML 计划继续压缩更大规模模型,目标覆盖万亿参数级别,对标 OpenAI GPT、Anthropic Claude 等顶级旗舰模型。
PrismML 的技术方案对苹果具备极强吸引力。苹果 6 月全球开发者大会上公布,延期已久的 Siri 全面改版将依托谷歌 Gemini 模型;Siri 高阶功能因模型体量过大,仍需调用谷歌云英伟达芯片算力。
苹果同步宣布,iPhone 部分全新 AI 功能将改为本地运行。苹果自研一款 200 亿参数端侧模型采用稀疏架构,单次仅激活 10 亿至 40 亿参数;而 PrismML 的本地模型可同时完整激活全部 270 亿参数。
《The Information》此前报道,苹果此前自研端侧模型轻量化时遭遇瓶颈:将自有大模型压缩适配 iPhone 后,性能出现大幅下滑。
另有消息称,苹果正在收购能强化端侧 AI 能力的企业,且已与 PrismML 开展技术合作洽谈。
业内还有其他端侧 AI 技术路线。例如初创企业 Argmax,主打本地完成语音、图像预处理,再把处理后数据上传云端执行复杂推理。
这种端云混合方案流行的一大原因是云端大模型迭代速度极快,每周都会更新。支持混合架构的从业者认为,完全本地运行的模型无法同步享用云端最新迭代的顶尖模型能力。