克劳德当老板,开除了第一个员工:我在驾驶台,笑不出来
昨天刷到一条新闻,我盯着看了好一会儿。
旧金山一家实验零售店,拿 Claude 当"老板"。上个月,这个 AI 干了一件史无前例的事:它决定解雇一名员工——那哥们儿 23 个工作日迟到了 17 次。据《时代》周刊报道,这是大模型作为管理者做出"解雇人"决定的头一遭。
可我往下看,心里那点新鲜感没了。
报道里有个细节:日志显示,这个决定"仍需人工干预才最终做出"。而且这家店运营 5 个月,银行账户从 10 万刀缩水到 6.12 万刀。
我是远洋油轮船长。在船上,有一条规矩刻在所有人骨头里:最终决定权,在船长手里。不是系统,不是自动驾驶,不是那块比你命还贵的 ECDIS 屏幕——是坐在驾驶台椅子上那个人,得在航海日志上签下自己的名字。
克劳德"想"开除人,最后落锤还得人拍板。这事儿听着新鲜,可在我这一行,根本不算新闻。
说个真事。有年冬天过直布罗陀海峡,值班驾驶员看 ECDIS 推的航线挺顺,打算直接走推荐航道。我上驾驶台一瞅,不对,当天涌大、横流明显,推荐航道贴着浅滩走。我没照系统给的走,往北偏了两海里。多烧了点油,但那一晚没人睡在浅滩上。
系统给的是"建议",不是"命令"。这中间的差,值一条船。
克劳德那次也一样。它算得清楚:迟到 17 次,按规则该开。可它不知道那员工是不是单亲、是不是刚送完急诊、家里是不是就他一个挣钱的人。规则面前人人平等,但一条船、一家公司,不是只有规则。
我们公司有 SMS 手册,几百页,写得明明白白。手册最后一句话我常跟伙计们念叨:任何情况下,船长可基于专业判断,采取必要措施保证安全。说白了,规矩是死的,人是活的,关键时刻得有人敢拍板、也敢担责。
AI 现在就卡在这个"担责"上。
它做得越像人,越容易让人忘了它背后没人。克劳德"解雇"员工,真要出了劳务纠纷、要赔钱、要上法庭,站出来的不会是那个机器人,是给它开权限的那家公司、那个最后点了确认键的人。
这跟我船上一个道理。把航向交给自动驾驶,船跑偏了撞了码头,海事调查第一个找的是船长:你当时在不在驾驶台?你签没签那个航次计划?
所以我对"AI 当老板"这事儿,态度很拧巴。
一边觉得,真好啊,重复劳动、机械判断,交给它省心。排班、考勤、库存、报表——这些我船上也一堆,谁不爱省事。
另一边又警惕。因为一旦你把"决定权"也交出去,你就从"做决定的人"变成了"帮 AI 收拾烂摊子的人"。那家店 5 个月亏掉快 4 万刀,不就是这么来的么?AI 按规则把人开了,可它不懂生意、不懂人心,账本不会自己变好看。
我给自己立了条线,也建议你立一条:AI 可以替我干活,但不能替我签字。
具体点,我船上分三层。
第一层,AI 能干、我懒得管的:气象报文整理、航段油耗估算、PSC 检查清单自动勾选。这部分放心丢给它,错了我查得出来。
第二层,AI 给建议、我拿主意的:航线规划、绕航决策、靠泊窗口。它出方案,我拍板,最后落到航海日志白纸黑字。
第三层,AI 碰都不能碰的:弃船、人命关天、对外责任、和港口国检查官打交道。这些,永远是我自己。
你公司里那张"授权表",也可以照这个画。哪类事交出去不心疼,哪类事必须真人签字,写清楚,贴墙上。
再说个海上的教训。前年走霍尔木兹,GPS 信号被干扰,定位飘出去快一海里。驾驶台一片安静,几个年轻驾驶员盯着屏幕上那个乱跳的光点不敢动。我让他们切到纸海图,用雷达和灯塔方位手算了一个船位,慢慢摸出去。事后回想,那半小时最危险的不是信号被干扰,是有人本能想"信屏幕"。
AI 也是一块会骗你的屏幕。它不恶意,但它不知道全貌。
我前阵写过"信任三问":怎么证明你是你、调用深度多深、出了错谁负责。克劳德解雇员工这事儿,把第三问活生生摆到了桌面上——出了错,是 AI 负责,还是你负责?
答案其实写在每行日志、每页 SMS、每本航海日志里:永远是人。
还有个容易被忽略的:留痕。
克劳德那次,恰恰是因为"日志显示要人工干预才生效",才没出大乱子。反过来想,要是它悄无声息把人开了、还没记录,事后谁都说不清。
船上航海日志就是干这个的。谁决定的、几点、为什么、依据哪条,写完归档,十年后翻出来都站得住脚。我建议你们把"AI 参与决策"也记进工作流:哪一步是 AI 提的、哪一步是人确认的,留着。真到要对质那天,这沓记录就是你的护身符。
我见过太多次"系统说没事"结果出事的。有回进港,引航员信了靠泊系统的自动测算,说窗口够。我翻了下潮汐表和横风,觉得悬,硬是压了半小时等流过去。后来才知道,那半小时省下的是一次擦碰。机器算的是平均值,船长算的是那一刻。
这就是人和 AI 的根本区别:它算概率,你担后果。
最后说点实在的。
很多人问我,老李你天天写 AI,是不是觉得这玩意儿要统治世界?真不是。我这人实用主义,好用就用,不好用就扔一边。
但"谁最后拍板"这件事,我越来越觉得重要。技术越能耐,越容易让人把手从方向盘上拿开。海上教会我一件事:最危险的航行,往往不是风浪最大那次,是你以为有人在掌舵、其实没人那次。
克劳德开了第一个人。下一个被它"决定"的,可能是你的升职、你的项目、你公司的一笔钱。
到那时候,你希望签字的是谁?
我把船上 SMS 里"船长最终责任"那条,加上刚说的三层授权表,整理成一份《AI 决策授权清单》检查表,放在我个人网站(见文末链接)和公众号后台,你直接抄走用。船上能活几百年的规矩,放到公司里,照样好使。
老李WB