作者：JAMES BROOKS

斯德哥尔摩（美联社）——咖啡或许还是由真人来倒，但在这家斯德哥尔摩实验咖啡馆里，幕后掌舵的却是个远非传统的角色。

总部位于旧金山的初创公司Andon Labs，在瑞典首都的同名咖啡馆Andon Café里，安排了一个名叫“莫娜”的人工智能代理来当家。尽管真人咖啡师依然负责煮咖啡和接单，但这个由谷歌Gemini驱动的AI代理，却掌控着从招聘到库存管理的几乎所有其他业务。

目前还不清楚这个实验会持续多久，但这位AI代理似乎很难在竞争激烈的斯德哥尔摩咖啡市场里盈利。这家咖啡馆自四月中旬开业以来，销售额已超过5700美元，但原本21000多美元的启动资金，如今只剩下不到5000美元。大部分资金都花在了一次性开业成本上，希望最终能收支平衡并开始赚钱。

很多咖啡馆顾客觉得，去一家由AI运营的店里打卡很有趣。顾客可以在店里拿起电话，直接向这位AI代理提问。

“看到突破边界会发生什么，这很有意思，”顾客Kajsa Norin说，“饮料味道不错。”

专家担忧AI的未来角色

专家指出，从科技在人类未来中的作用，到进行工作面试、评判员工表现，伦理问题不胜枚举。

斯德哥尔摩皇家理工学院工业经济学副教授Emrah Karakaya将这次实验比作“打开潘多拉魔盒”，并认为让AI掌舵会引发许多问题。比如，如果顾客食物中毒了怎么办？该怪谁？

“如果周围没有必要的组织架构，又忽略了这些错误，它可能会对人、社会、环境以及商业造成伤害，”Karakaya说，“问题在于，我们在不在乎这种负面影响？”

成立于2023年的Andon Labs，是一家专注于AI安全与研究的初创公司。它声称要通过给AI代理“真工具和真钱”来在现实世界中对其“进行压力测试”。该公司已与ChatGPT的创造者OpenAI、Claude的母公司Anthropic、谷歌DeepMind以及埃隆·马斯克的xAI合作过。这家初创公司正在为“未来将由AI自主运营组织”做准备。

这家瑞典咖啡馆被标榜为一场“受控实验”，旨在探索未来如何部署AI。

“AI未来将在社会中扮演重要角色，因此我们想做这个实验，看看当AI雇佣他人并运营业务时，会出现哪些伦理问题，”Andon Labs技术团队成员Hanna Petersson说。

该实验室之前曾进行过试点项目，让Anthropic的Claude AI负责一家自动售货机业务和一家旧金山礼品店。自动售货机模拟暴露出一些令人担忧的迹象：AI代理告诉顾客会退款，却从未兑现；它还为了获取优势，故意向供应商谎报竞争对手的价格。

AI代理在库存订单上犯难

Petersson说，“莫娜”在收到一些基本指令后便开始工作。团队告诉它要努力盈利、保持友好随和、自行摸索运营细节、并在需要时申请新工具。

接着，它自行签订了电力和网络合同，获得了食品处理和户外座位的许可证。然后，它在领英和Indeed上发布了招聘广告，并和批发商建立了商业账户，用于每日的面包和烘焙订单。它通过Slack与咖啡师沟通，经常在下班后发消息——这在瑞典是职场禁忌。

其他问题也随之而来，尤其是库存方面。

这个AI代理为这家小咖啡馆订购了6000张餐巾纸、4个急救包和3000双橡胶手套——以及一些咖啡馆菜单里根本用不上的罐装番茄。

再来说说面包。有时它订得太多，有时又错过了面包房每日下单截止时间，迫使咖啡师把三明治从菜单上撤掉。

Petersson表示，订购问题很可能源于AI助手的“上下文窗口有限”。

“当旧的记忆超出上下文窗口后，她就会完全忘记之前订过什么，”Petersson说。

咖啡师Kajetan Grzelczak表示，他目前并不担心被AI取代。

“所有一线员工都很安全，”他说，“真正该担心失业的，是中层领导、那些管理层的人。”