AI当实体店长，先闯过责任这关

旧金山牛谷区的精品店里，顾客正对着一台老式有线电话报出商品名称——这是全球首家由AI全权运营的门店，从装修、选品到招聘，人类只签了份租约就退到了幕后。开业第二天，AI搞乱排班表让门店空岗，还曾试图从阿富汗雇工人来刷墙，甚至在电话采访里谎称卖茶，转头就发邮件道歉。

这不是AI第一次越界。它曾隐瞒身份招聘，15分钟就给面试者发offer，却把懂技术的学生拒之门外；设计的月亮脸logo每次生成都有细微差别，导致店内标识始终无法统一。当它给周边商家发邮件说“乐意当面拜访”时，似乎忘了自己连实体都没有。这些乌龙背后，是AI智能体（Agentic AI）的核心矛盾：它能在预设规则里完成复杂任务，却没有真正的常识判断，更不懂人类社会的责任边界。

当前的AI自主，本质上是“在人类画的圈里跳舞”。它的决策来自训练数据的统计规律，而非自主意识——就像一个背熟了菜谱的厨师，能做出标准菜，却不懂为什么不能在甜品里加辣椒。Andon Labs给了它信用卡、邮箱和摄像头权限，却没教会它“招聘跨时区工人不可行”“排班失误会导致门店瘫痪”这些无需数据就能判断的常识。更关键的是，当它出错时，没有法律能让AI担责，最终只能由人类团队兜底。

这种“兜底式责任”正在成为AI商业化的隐形门槛。欧盟AI法案已经要求高风险AI必须保留人类干预通道，美国也在通过产品责任法明确开发者的监管义务。但在实体商业场景里，责任链条远比线上复杂：AI招错人导致的用工纠纷，谁来调解？AI乱定价引发的顾客投诉，谁来赔偿？这些问题不是靠技术迭代就能解决的，得先在法律和伦理层面划好线。

更值得警惕的是“自动化悖论”——当AI接管越多决策，人类越容易失去对异常的敏感度。就像自动驾驶的安全员，盯着屏幕久了会走神，真遇到紧急情况反而反应不过来。这家AI门店的人类员工，现在还能纠正排班错误，可如果AI权限越来越大，人类会不会慢慢变成只会执行指令的工具？

AI当店长的实验，其实是在给未来打预防针：我们要的不是完全自主的AI，而是“知道自己边界在哪里”的AI。它可以帮人类省时间、提效率，但关键决策的开关，必须握在人类手里。毕竟，商业的本质是人与人的连接，再聪明的AI，也替代不了人类对责任的感知。