Sam Altman(山姆·奥特曼)再次向世人展示未来。
撰文:Billy Perrigo,时代周刊
编译:金色财经 xiaozou
Sam Altman(山姆·奥特曼)再次向世人展示未来。这位 OpenAI 首席执行官站在旧金山一个不起眼的舞台上,准备向全神贯注的观众揭晓他的下一步行动。「在通用人工智能时代,我们需要某种识别和验证人类的方法,」奥特曼解释道,「我们想要确保人类始终是独特而核心的存在。」
解决方案正在他身后隐约浮现——一个沙滩球大小的白色球体,中央嵌着摄像头。其制造商「Tools for Humanity」将这个神秘设备称为「Orb」。当你凝视这个塑料与硅胶球体的中心时,它会扫描虹膜独特的沟壑与睫状区特征。数秒后,你的手机应用将收到不可篡改的人类证明:一个由 12,800 位二进制数组成的虹膜编码。与此同时,价值约 42 美元的 Worldcoin 加密货币将转入你的数字钱包——这是成为「已验证人类」的奖励。
奥特曼于 2019 年联合创立 Tools for Humanity,视其为重塑世界的企业矩阵之一。他推断,当 OpenAI 开发的技术突破某个智能阈值时,互联网将终结旧纪元开启新时代——届时 AI 将逼真到令人无法分辨网络内容是否出自真实的人类。奥特曼预见,那时我们需要新型网络基础设施:为互联网建立人类验证层,以区分真实人类与激增的机器人和 AI「代理」。
因此,Tools for Humanity 公司着手构建全球「人类证明」网络。该项目计划到 2025 年底完成 5000 万人验证,最终目标是让地球上的每个人都完成注册。免费发放的加密货币既是吸引用户注册的诱因,也是该公司构建全球最大金融网络的入口——他们预测未来「全球经济两位数百分比的流量」都将通过该网络流转。即便对奥特曼而言,这些目标也堪称大胆。「如果成功,这将成为世界基础设施的根基部分,」奥特曼在 4 月 30 日主题演讲前几日通过车载视频接受时代周刊采访时如此表示。
该项目旨在解决一个奥特曼亲手参与制造的问题。他与其他科技领袖预言,在不久的将来,高级 AI 将具备自主行动力:不仅能响应人类指令,更能独立在现实世界采取行动。这将催生能直接入职解决问题的 AI 同事、根据学生偏好调整教学方式的 AI 导师,甚至能诊断常规病例并处理日程的 AI 医生。其风险投支持者们预测,这些虚拟代理的到来将极大提升生产力,开启物质丰裕的新纪元。
但 AI 代理也将对人类的网络体验产生连锁影响。「随着 AI 系统与人类愈发难以区分,网站可能面临艰难权衡,」包括 OpenAI 在内的 25 所大学、非营利组织和科技公司研究人员近期发表的论文指出,「数字机构极可能对一些局面准备不足,例如当 AI 代理(包括恶意行为者操纵的代理)淹没其他网络活动时。」在 X 和 Facebook 等社交平台,机器人账号生成的 AI 内容已获得数十亿次浏览。四月,维基百科运营基金会披露,AI 机器人抓取网站内容导致百科全书运营成本激增至不可持续水平。同月下旬,苏黎世大学研究人员发现,Reddit 论坛 /r/ChangeMyView 版块中,AI 生成评论说服用户改变立场的成功率最高可达人类评论的六倍。
AI 代理的涌现不仅将威胁我们辨别网络真实内容与 AI 内容的能力,还将冲击互联网的核心商业模式——在线广告,这一模式建立在「广告受众是人类」的基本假设之上。「未来 12 到 24 个月内互联网将发生剧变,」Tools for Humanity 首席执行官亚历克斯·布拉尼亚(Alex Blania)表示,「我们必须成功,否则后果难以预料。」
四年来,布拉尼亚的团队一直在海外测试 Orb 硬件设备。如今美国市场布局正式启动——未来 12 个月,7,500 台 Orb 将进驻洛杉矶、奥斯汀和迈阿密等数十个美国城市的加油站、便利店和品牌旗舰店。项目创始人与支持者期待此次美国首秀能开启增长新阶段,旧金山主题演讲的标题「终于到来」正暗含此意。
但公众热情似乎与激昂的品牌愿景并不匹配。自 2023 年年中以来,Tools for Humanity 仅「验证」了 1,200 万人类,布拉尼亚承认这一进度远落后于计划。目前支持 Orb 颁发的所谓「World ID」的在线平台寥寥无几,除免费加密货币外,几乎无法吸引用户提交生物特征数据。就连奥特曼也对项目前景存疑:「可能几年后这会成为主流,也可能始终只被特定思维方式的小众人群使用。」
然而随着 AI 席卷互联网,这个奇特硬件的创造者正押注全球人类很快都将主动或被动造访 Orb。他们预测其生成的生物特征码将成为新型数字护照,没有它,你可能被未来互联网拒之门外——从交友软件到政务服务。最理想的情况下,World ID 或能成为隐私保护方案,帮助互联网抵御 AI 驱动的虚假信息洪流;也可能在 AI 自动化重塑全球经济时,实现奥特曼曾力推的全民基本收入政策。为探究这项技术的意义,笔者跨越三大洲进行报道,采访了 10 位 Tools for Humanity 高管与投资人,查阅了数百页公司文件,并亲自完成了「人类验证」。
非营利组织「集体智慧项目」创始人迪维亚·西达斯(Divya Siddarth)表示:「互联网在不久的将来必然需要某种人类证明系统。」她指出,关键在于这种系统将是中心化的——「一个助长大规模监控的重大安全隐患」,还是如 Orb 所宣称的能够保护隐私安全。目前外界对 Tools for Humanity 的公司架构、其与波动性加密货币的绑定关系,以及成功后权力将如何集中于所有者手中仍存疑虑。但这也是解决这个被广泛认为日益紧迫问题的少数尝试之一。「World ID 确实存在一些问题,」西达斯评价道,「但互联网不可能永远维持现状。向这个方向发展的尝试是必要的。」
三月份,我在 Tools for Humanity 旧金山总部见到了布拉尼亚,那里的大屏幕实时显示着各国每周「Orb 验证」的数量。几天前,这位 CEO 刚参加了海湖庄园举办的人均百万美元的晚宴,与特朗普总统会面。他认为正是特朗普放松加密货币监管的政策为公司进入美国市场扫清了障碍。「考虑到山姆(奥特曼)是备受关注的目标,」布拉尼亚解释道,「我们决定先让其他公司应对监管争议,待形势明朗后再进入美国市场。」
童年时期的布拉尼亚在德国时就显得与众不同。「其他孩子要么沉迷于饮酒,要么热衷于派对,而我总在捣鼓些可能会爆炸的玩意儿,」他回忆道。在加州理工学院攻读硕士学位期间,他经常彻夜研读保罗·格雷厄姆(Paul Graham)和奥特曼(Altman)等创业大师的博客。2019 年,布拉尼亚收到了企业家马克斯·诺文斯特恩(Max Novendstern)的邮件,后者正与奥特曼探讨构建全球加密货币网络的构想,他们正在物色技术人才来推进这个项目。
在享用卡布奇诺时,奥特曼向布拉尼亚阐述了他确信的三件事。第一,超越人类智能的 AI 不仅可能实现,而且不可避免——这将很快导致人们无法假定在互联网上看到的所有内容都出自人类之手。第二,加密货币和其他去中心化技术将成为改变世界的巨大力量。第三,规模采用对任何加密网络的价值都至关重要。
这个最初名为 Worldcoin 的项目,目标就是整合这三个洞见。奥特曼从 PayPal(其与导师彼得·蒂尔联合创立)汲取了经验。PayPal 在初期融资中,仅花费不到 1000 万美元开发应用程序,却再投入约 7000 万美元用于推荐计划——新用户和推荐人各获得 10 美元信用额度。这个推荐计划助力 PayPal 成为领先的支付平台。奥特曼认为类似的策略也能推动 Worldcoin 达到同等高度。他计划创建一种新型加密货币,作为用户注册的奖励。理论上,加入系统的人越多,代币价值就会越高。
自 2019 年以来,该项目已从 Coinbase 和风投公司 Andreessen Horowitz 等投资者那里筹集了 2.44 亿美元。这些资金用于支付 Orb 设备 5000 万美元的设计成本,以及维护其运行所需的软件。不过,现存所有 Worldcoin 的总市值要高得多——约 12 亿美元。这个数字有些误导性:大部分代币尚未流通,且 Worldcoin 价格波动剧烈。尽管如此,这使公司能够零成本地奖励注册用户。对投资者而言,主要吸引力在于加密货币的升值潜力。约 75% 的 Worldcoin 预留用于用户注册时领取或作为推荐奖励,剩余 25% 由 Tools for Humanity 的支持者和员工(包括布拉尼亚和奥特曼)分配。「我对赚大钱充满期待,」布拉尼亚表示。
从一开始,奥特曼就在思考他意图发起的 AI 革命可能带来的后果。(5 月 21 日,他宣布计划与前苹果著名设计师乔尼·艾维合作开发新型 AI 个人设备。)他推断,当高级 AI 能比人类更高效完成多数工作时,失业潮和经济失调将随之而来,某种形式的财富再分配或许势在必行。2016 年,他部分资助了一项基本收入研究,向伊利诺伊州和德克萨斯州的低收入群体每月发放 1000 美元。但当时全球范围内不存在能向所有人发放资金的统一金融系统,也无法防止个人重复申领份额,更难以识别伪装人类窃取资金的高级 AI。2023 年,Tools for Humanity 提出利用该网络重新分配那些实现人类劳动自动化的 AI 实验室的利润。「随着 AI 发展,」公司声明指出,「通过全民基本收入公平分配访问权限和部分创造的价值,将在遏制经济权力集中方面发挥日益关键的作用。」
布拉尼亚被这个构想打动,同意作为联合创始人加入项目。「多数人认为我们不是蠢疯了就是精神失常,包括硅谷投资者在内,」布拉尼亚回忆道。这种看法直到 2022 年 ChatGPT 问世才改变——该产品使 OpenAI 跻身全球最著名科技公司之列,并引发市场牛市。「外界突然开始理解我们的愿景,」布拉尼亚谈及构建全球「人类证明」网络时表示,「你必须设想这样一个世界:高度智能的系统在互联网中穿梭,各自怀揣不同目标和意图,而人类完全无法辨别自己面对的是什么。」
采访结束后,公关负责人引领我走向一个环形木制装置,八台 Orb 设备相对而立,场景如同苹果商店与宗教祭坛结合在一起。「要体验验证吗?」她问道。出于研究目的,我暂时放下顾虑下载 World App 并跟随指引操作:向 Orb 出示二维码,凝视设备中心。约一分钟后,手机震动显示确认:我已获得专属 World ID 及若干 Worldcoin。
当我凝视 Orb 时,多项复杂程序同步启动。神经网络通过红外摄像头和温度计等多重传感器确认我是活人,同时长焦镜头聚焦虹膜,捕捉那些使我区别于地球上其他人类的生物特征。随后设备将图像转化为虹膜编码——一组代表我独特生物特征的抽象数字。Orb 运用加密数据比对技术(无需暴露原始信息)核验该编码是否与既有记录重复。在删除数据前,系统将我的虹膜编码转化为数个衍生编码(任一衍生码都无法反向推导原始数据),经加密处理后销毁唯一解密密钥,并将这些编码分送至不同安全服务器,以便未来用户的虹膜编码能与我的进行唯一性比对。若使用 World ID 登录网站,对方仅能确认我是人类而无法获取其他信息。由于 Orb 采用开源设计,外部专家可审查代码以验证其隐私承诺。「加入前我对这项技术做了全面的『肠镜检查』,」特朗普捐赠者、美国前驻奥地利大使特雷弗·特雷纳(Trevor Traina)表示,他现任 Tools for Humanity 首席商务官,「这堪称地球上最保护隐私的技术。」
仅数周后,当我研究数据删除机制时,发现公司的隐私承诺实则建立在某种「障眼法」上。Tools for Humanity 声称衍生虹膜编码已「实质匿名化」生物特征数据。若要求删除,公司仅清除手机端存储的原始编码而保留衍生码——他们认为这些衍生码不再属于个人数据。但若删除数据后再次使用 Orb,系统仍能通过这些衍生码识别我的唯一身份。一旦凝视 Orb,你的身份碎片就将永远留存在了系统中。
当我致电 Tools for Humanity 首席隐私官达米安·基兰( Damien Kieran)寻求解释时,他坦言若允许用户彻底删除数据,「一人一 ID」的核心前提就会崩塌。被封禁用户可能删除数据后重新注册 World ID,或领取 Worldcoin 代币出售,再删除数据重复套现。
这套说辞并未说服德国欧盟监管机构。后者近期裁定 Orb 存在「根本性数据保护问题」,要求公司必须允许欧洲用户彻底删除包括匿名化数据在内的所有信息(Tools for Humanity 已提起上诉,监管机构正在重新评估决定)。「与其他技术服务相同,用户不能删除非个人数据,」基兰在声明中强调,「如果允许删除这些 World 及第三方均无法关联到个人的匿名数据,将让不法分子绕过 World ID 为全人类构建的安全防线。」
今年春天某个温暖的午后,我登上首尔远郊某餐厅楼上的一个房间。五位韩国老人正在点击手机,等待房间中央两台 Orb 的「验证」。「我们现在真的分不清 AI 和人类了,」身着公司 T 恤的工作人员指着球体设备用韩语解释,「需要办法证明我们是人类而非 AI。怎么办呢?人类有虹膜,但 AI 没有。」
工作人员引导一位老妇人走向 Orb。设备发出「哔」的一声后,传出一个女声用英文说道:「睁开眼睛」。老妇人凝视摄像头,几秒后查看手机,发现价值 7.5 万韩元(约合 54 美元)的 Worldcoin 已到账数字钱包。应用弹出祝贺信息:您已成为已验证人类。
自 2023 年起,韩国已投放二十余台 Orb 设备,完成约 5.5 万人验证。如今 Tools for Humanity 正加大在韩推广力度。在首尔市中心一个传统韩屋举办的发布会上,公司高管宣布将很快在全国部署 250 台 Orb——目标是未来 12 个月完成 100 万韩国人验证。韩国智能手机普及率高,加密货币和 AI 应用广泛,网络覆盖完善,且人均收入水平使得免费 Worldcoin 仍具吸引力,这些条件使其成为公司全球扩张计划的理想试验场。但推广似乎开局不利。在首尔市中心的某零售店,Tools for Humanity 搭建了八台 Orb 相对而立的木制装置,路过的本地人和游客大多面露困惑,鲜少主动尝试。参与者多为专程而来的加密货币爱好者,他们更多是为了尝鲜,而非免费代币。
次日,我来到首尔市中心一家咖啡馆,角落低调摆放着银色 Orb 设备。一个 20 岁的中国留学生与兼任操作员的咖啡师攀谈起来。他受朋友邀请前来——对方称注册后双方都可领取免费加密货币。咖啡师快速引导他完成流程:他未阅读隐私条款就直接同意了,对着 Orb 睁大眼睛,很快通过验证。「没人解释隐私政策,」离开时他表示,「我就是冲着钱来的。」
奥特曼的车辆穿行于旧金山街头时,同乘的我提及他在 2019 年提出的观点:AI 将削弱网络信任。出乎意料的是,他否定了这种表述。「我更关注我们能创造什么价值,而非阻止什么危害,」他说,「重点不在于『避免机器人泛滥』,而是能为人类创造独特价值。」
这个回答或许映射出他角色的转变。如今作为估值 3000 亿美元公司的首席公众代言人,奥特曼正大力宣扬 AI 代理的变革性应用。他与其他支持者认为,代理的兴起将提升生活质量——就像拥有随时解答迫切问题、处理琐事并助你掌握新技能的助手。这种乐观愿景很可能实现,却与 Tools for Humanity 创立时预言的「AI 引发信息灾难」不甚相符。
对于「愿景实现后他与投资者将获得何种影响力」的提问,奥特曼不以为意。他推测多数持有者会过早抛售代币。「早期团队掌控协议才是糟糕的局面,」他表示,「这正是去中心化承诺的可贵之处。」奥特曼所指的 World 协议是 Orb 设备、Worldcoin 和 World ID 共同依赖的底层技术。虽然由 Tools for Humanity 开发,但公司承诺将逐步移交控制权给用户——他们称此过程能防止权力集中在少数高管或投资者手中。Tools for Humanity 仍将保持营利性质,可向使用 World ID 的平台收取费用,但其他公司能通过开发替代应用甚至竞品 Orb 来争夺用户。
该计划汲取了 2010 年代末至 2020 年代初加密生态系统的核心理念——当时新兴区块链技术的布道者们认为,权力集中(尤其是所谓「Web 2.0」科技巨头的垄断)是现代互联网诸多弊病的根源。正如去中心化加密货币能改革由经济精英控制的金融体系,建立由成员而非 CEO 运营的去中心化组织同样可行。不过这种系统如何实际运作仍不明确。「构建社区自治体系,」Tools for Humanity 在 2023 年白皮书中承认,「可能是整个项目最具挑战性的环节。」
奥特曼存在「先提出理想化承诺后逐步修正」的行为模式。2015 年他创立非营利组织 OpenAI,宗旨是安全开发造福全人类的通用人工智能。为筹集资金,OpenAI 在 2019 年重组为营利公司,但控制权仍归属非营利董事会。去年奥特曼再次提议重组方案,将削弱董事会控制权,让更多利润流向股东。当我质疑公众为何要相信 Tools for Humanity 会自愿放弃权力时,他回应:「协议将持续推进去中心化,价值将存在于网络中,而网络由大众共同拥有和治理。」
近期奥特曼较少提及全民基本收入概念,转而探讨他称为「全民基本算力」的替代方案。他似乎暗示,与其让 AI 公司分配利润,不如让全球民众公平获取超级 AI。布拉尼亚透露自己已决定在 Tools for Humanity 内部「停止讨论全民基本收入」。「全民基本收入只是潜在方案之一,」他表示,「让人们接触最新 AI 模型并加速学习是另一条路径。」奥特曼坦言:「我仍不确定正确答案。但现有资源分配机制必须改进。」
当我追问「公众为何要信任他」时,奥特曼面露愠色。「我理解你反感 AI,这没关系,」他说,「如果你非要强调 AI 的弊端——比如会出现大量伪装人类的逼真 AI 系统,我们需要辨别真伪的手段——那确实可以称之为 AI 的弊端,但这并非我想说的。」
「人类授权」这个措辞暗示了 World ID 与 OpenAI AI 代理计划之间的张力。若未来互联网需要 World ID 才能使用多数服务,可能阻碍 OpenAI 等公司开发的 AI 代理发挥效用。为此 Tools for Humanity 正构建代理委托系统,据首席产品官蒂亚戈·萨达(Tiago Sada)介绍,用户可将 World ID 授权给代理,允许其代为在线操作。「我们设计的整套系统都能轻松委托给代理,」萨达表示。这项措施虽能让人类为 AI 行为负责,却表明 Tools for Humanity 的使命可能正从单纯「验证人类」转向成为「AI 代理经人类授权扩散」的基础设施。World ID 无法区分内容是由 AI 还是人类生成的,仅能显示发布账号的属性。即便人人拥有 World ID,网络空间仍可能充斥 AI 生成的图文影音。
告别奥特曼时,我对这个项目感到矛盾。如果 AI 代理将重塑互联网,某种人类证明系统确实必要。但若 Orb 成为网络基础设施,将使奥特曼——AI 内容泛滥的既得利益者——同时掌控对抗 AI 泛滥的主要防御机制。人们为使用社交媒体或在线服务,或许不得不加入该网络。
这让我想起在首尔目睹的场景。餐厅楼上的个房间里,75 岁的赵正妍(音)看着朋友完成 Orb 验证。虽受邀参与,她却选择拒绝——奖励不足以让她交出部分身份特征。「虹膜是独一无二的,我们根本不知道它会被怎么使用,」她说,「看到那台机器让我不得不想:我们现在是要变成机器而非人类了吗?一切都在改变,我们不知道最终会怎样。」
【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。