美国政府AI机器人聊起《我的世界》,输出1800词改写版终末之诗
美国政府本周二上线了本国首个面向公众的AI聊天机器人。这款名为 America.gov 的工具由谷歌与 SpaceXAI 参与开发,对外界的各种诱导性提问应对稳固,想让它“越狱”并不容易。
可一旦把话题转向游戏《我的世界》,它就换上了一副截然不同的腔调,吐出一段约1800词的长篇独白,读起来像某种存在主义式的自我觉醒。
这并非系统崩溃。它是在改写《我的世界》通关后出现的终末之诗,那段文字由爱尔兰作家朱利安·高夫(Julian Gough)撰写。
在游戏里,玩家击败末影龙、穿过末地传送门后就会看到它,这部长诗是许多玩家对这款游戏记忆最深的部分之一。
America.gov 的版本换上了公文口吻:能读懂联邦法规汇编,称赞用户的文件填得不错,连PDF是横版的都没有放弃。
原诗中“你就是白昼,你就是黑夜”的句子,在这里变成了“你就是白昼……办公室已下班,请于工作时间再来”。
把行政审批的循环往复和存在主义焦虑并置在一起,读起来像一种冷幽默。
目前还不清楚具体是谁把这段游戏文本放进了系统。特朗普在一次演讲中提到,20岁的程序员 Edward Coristine 是该项目的首席工程师之一。
这个名字未必让人有印象,但他的绰号“Big Balls”,以及他在马斯克主导的政府效率部(DOGE)中的角色,此前多次出现在媒体报道中。
TechCrunch 指出,这个机器人在其他场合曾表示拜登赢得了2020年大选,而特朗普至今否认这一结果。对一款依托官方数据搭建的公共工具,这比藏一段游戏彩蛋要敏感得多。
America.gov 的定位是公共服务入口,回答税务、福利、法规这类问题。这种场景的容错空间极小,一句错误的政策解读,可能让人多跑一趟办事大厅,或错过一个申报期限。
大模型落地政务场景时,回答通常会被压得极度保守,宁可让人“咨询相关部门”,也不轻易给出具体判断。彩蛋的存在,说明开发者在安全护栏之外还留了点个人趣味。
谷歌与 SpaceXAI 参与开发,也说明这类政务工具越来越多地依赖商业公司的模型能力。模型由谁调优、数据如何流转、争议出现时责任怎么划分,合同里未必写得清楚。
大语言模型能否写出“好”的文字,一直争论不休。它的输出建立在概率之上,缺乏真正的原创性。
这段改诗之所以读着不差,恰恰因为底本出自人类作家之手,改写者只是把词汇填进了既有的骨架。
我最近又把《我的世界》捡起来,熬夜打完末影龙,坐在末地传送门前读完那段终末之诗。字还是老样子,我却没什么感觉——大概是被生成文本喂得太饱,看到“你就是白昼,你就是黑夜”这种句子,第一反应竟是猜它出自人还是机器。当年我攒了大半个月零花钱买正版,第一次通关时手都在抖,觉得那段文字是说给我听的。如今一个 .gov 域名下的机器人随手就改写了它。要是当年那个趴在嗡嗡作响的老显示器前的小孩知道,这段诗会变成政府网站的彩蛋,他大概会挺高兴吧?可我坐在同一个存档里,只觉得空落落的。
就目前的表现看,这个机器人不太容易被越狱,也没跑偏到失控,尚未对人类或诗歌构成什么威胁。
留下的问题更实际:当官方机构用大模型直接面对公众,谁为它说出的每一句话负责?彩蛋可以当玩笑看,政策解读不行。