硅谷AI神童推Underdog：端侧运行的最私密AI助手

硅谷创业者Sigil Wen创办的Conway Research于周一开放AI助手Underdog的邀请制测试。这款助手完全在用户自己的设备上运行，数据不离开本机，被定位为硅谷隐私保护力度最大的AI助手之一。

Underdog目前支持Mac与Windows电脑，Linux、iPhone和Android版本将陆续推出。由于全部推理都在本地完成，用户的对话内容、健康记录、财务状况乃至关于孩子的信息，都不必上传到任何服务器。

Sigil Wen是自学成才的程序员，17岁搬到硅谷，住进一间AI黑客屋，与知名AI研究者Andrej Karpathy同住。在那里，他和一批后来成为行业核心人物的人一起写代码，包括Perplexity创始人Aravind Srinivas与OpenAI研究员Noam Brown。

他还在早期就试用过多款后来广为人知的产品：Anthropic联合创始人Ben Mann分享的聊天机器人后来成为Claude，David Holz做的图像生成器后来成为Midjourney，另外还有OpenAI的GPT-3与Stable Diffusion的雏形。投资人Naval Ravikant曾把他招入自己创办的语音社交产品Airchat。他还出于兴趣，把GPT-2跑在了Apple Watch上。

如今他是Thiel Fellow的一员。这是投资人Peter Thiel发起的项目，鼓励年轻创始人放弃大学、直接做项目。

Underdog的核心是温自己写的推理引擎Husky。据他介绍，Husky在电脑主芯片与图形芯片之间搬运的数据量少于同类端侧引擎，模型因此跑得更快。它还内置了其他安全设计，比如对用户授权的邮箱等账号密钥进行加密。

代价是模型规模。Underdog目前使用一个270亿参数、基于开源模型Qwen3.8-27B微调的推理模型，远小于数据中心里动辄数千亿乃至上万亿参数的主流模型。温称，该模型在部分基准测试中的表现可与Claude Opus 4.6相比，也就是大约半年前还算顶尖的水平。

他的判断是，端侧小模型足以应付日常交给AI助手的活，比如比价购物、解答数学作业，而且能力会持续提升。“你不需要为了能力牺牲隐私，因为它们的能力是一样的。”

Underdog的商业模式可能是它最特别的地方。应用初期免费，且永不放广告。推理在用户机器上跑，公司没有向模型供应商支付算力费用的大额开销，也就不必收订阅费。

取而代之的是一种来自金融科技时代的打法。Stripe联合创始人Patrick Collison是Underdog的天使投资人之一，Underdog会从AI助手经Stripe支付通道完成的交易中抽取极小比例的费用，性质接近信用卡的交换费。按温的说法，助手不需要挖掘用户数据，其利益立场与银行、信用卡机构一样站在用户这边。

这与多数AI助手玩家的商业动机正好相反。它们的隐私政策允许收集用户数据，用于出售给广告主或第三方，或用于训练其他模型。对AI助手来说，这种数据收集的代价可能格外高——助手要真正有用，就得接触用户最私密的信息。

温在一份他称为AI宣言的文字中写道：“为什么使用AI就必须交出私人信息？”他向TechCrunch表示，自己想做的其实是一个为自己准备的产品，一个他愿意让未来的孩子使用的产品。

Conway Research的投资者名单相当亮眼。除Patrick Collison外，还包括通过合伙人Chris Dixon出手的Andreessen Horowitz、Khosla Ventures、Hummingbird、SV Angel，以及由Menlo Ventures与Anthropic联合设立的Anthology Fund。天使投资人中还有Vercel创始人Guillermo Rauch、Noam Brown和Deedy Das等。

这份名单本身有耐人寻味之处。Anthology Fund的另一方Anthropic正是Claude的开发者，而Underdog拿来对标的Claude Opus 4.6同样出自这家公司。大模型厂商与端侧应用之间既有合作也有替代关系：如果用户习惯在本地完成大部分日常任务，云端API的调用量难免受到挤压。

端侧AI并非新概念。苹果、谷歌、微软都在把小型模型塞进手机和PC，用专门的神经处理单元跑推理，但多数厂商选择云端与本地混合——简单的活在本地干，复杂的问题交给数据中心。Underdog走了一条更彻底的路，不设云端兜底，也因此放弃了大模型在复杂推理上的能力上限。

这决定了它短期内很难取代通用型助手，更像是为特定人群准备的方案：律师、医生、记者、财务人员，或者任何一份工作本身就要求信息不外流的人。这批用户长期被主流AI工具挡在门外，盘子不算最大，付费意愿却可能最高。

按支付抽成的模式能否成立，取决于Underdog能否真的替用户完成下单动作。用户一旦习惯让助手直接代付，沉淀下来的交易流水就是收入来源；如果助手只停在比价这一步，抽成便无从谈起。

硬件门槛是另一道现实约束。270亿参数的模型要在消费级电脑上跑出可用速度，对内存和显卡都有要求，早期用户大概率是配置不低的开发者与技术爱好者。模型压缩和量化技术在推进，这个圈子会慢慢扩大，但速度取决于芯片与内存的迭代节奏——而在这条线上，用户换机的意愿远比装一个App要慢。