最高法说"AI干的"不能免责,我这个油轮船长笑出了声:这条规矩,海上三十年前就写死了
今天(9月7日)最高法发了个东西,叫《关于依法审理涉人工智能纠纷案件的意见》,二十四条规定,国家最高审判机构头一回就AI打官司立规矩。我夜里在驾驶台刷到,把这二十四条款从头翻到尾,越看越觉得眼熟——里面那套逻辑,我在船上天天见。
最直观的一句话先放这:AI生成的内容要是侵权了,不能拿"这是AI自己生成的"当挡箭牌。平台也好、公司也好,该赔就赔,责任跟你控制它的能力、该尽的注意义务走。
"注意义务"这四个字,是整份意见的根。什么意思?就是你能管住它、也该料到它会出什么乱子,那出了事你就得兜着。我第一反应是:总算有人把这层窗户纸捅破了。
海上这套逻辑,三十年前就钉死了。
我们船上有个东西叫ISM规则,全称国际安全管理规则,是SOLAS公约里硬邦邦的一章。它写得很死:船东公司对船舶的安全和防污染负最终责任,船长对全船的航行安全负最终责任。注意"最终"两个字——不是"主要",不是"大部分",是最终。底下的人可以分工,锅不能分包。
举个真事。有回二副值航行班,VHF里听错了他船的动态,定了个向,船偏了小半海里才发现。事后查起来,谁签字谁负责,航海日志上落的是我的名字。我说"是二副定的"有没有用?没用。PSC、公司、法院只看一件事:船长是全船安全的最终责任人。你能怪仪器、怪手下的兵吗?可以私下骂,但纸面上,这页日志的责任人写的是你。
AI也是一样。你拿它写公众号推文、出宣传图、做对外报价单、甚至替你回客户消息,出了岔子——侵权了、造假了、误导人了——你跟法官说"是AI生成的不是我写的",跟我在PSC面前说"是二副干的"一个下场:不好使。最高法这意见,说白了就是给所有用AI的人立了个"船长负责制"。
它点了好几类具体的事,我看着格外亲切。
"AI换脸拟声""仿冒名人带货"。海上对应的叫什么?AIS冒用他船的MMSI、暗船冒用别人的IMO号码。等于给一条船套上另一条船的身份出去跑。PSC和海上保安哪次抓到这种事不是当场滞留、追到船东?身份冒用,海上零容忍。现在网上换张脸、冒个名就去带货赚钱,最高法这次明确:不行,担责。这条跟我在号上写过的"信任三问"是一脉的——亮身份、划边界、留痕,放到AI上照样成立。
"AI复活逝者""网络开盒"。一个是拿已故的人生成内容,一个是把别人隐私扒出来公开。海上没有这个,但海上认一个更硬的道理:你动了别人的东西、伤了别人的权益,船东和船长兜底,跑不掉。
最让我点头的是自动驾驶事故赔偿那条。之前我写过特斯拉Robotaxi那篇,说L4级别出事车企全责、L3人还在回路里。最高法这次把调子定在"谁控制、谁担责"上,跟海上一个理:你让船自己走,你就得为它走的每一步负责。MASS自主船的规矩也是这么写的——自主级别越高,岸基和船东的责任链越清楚,不是越模糊。
有人觉得这意见是管大平台的,跟自己没关系。不对。我跑船这些年见过太多"小聪明"翻车:有回在欧基港PSC,检察官翻到一本船员证书,编号对不上船旗国数据库,当场开滞留——假的,再像也不行。AI现在一天能造一万张"看起来完全没问题"的证书、合同、检测报告,可一旦出了事,查的就是你。平台要赔,用AI的你照样跑不掉。注意义务这东西,不分你是大厂还是个体户。
还有一层得说清楚:这二十四条规定的是"出了事谁担责",并没有碰训练数据版权、AI内容能不能算作品这些更拧巴的问题,那些留着以后慢慢定。这跟海事立法一个路数——油污民事责任公约(CLC)也不是一天写全的,是先有了"谁漏油谁赔"这条底线,再一点点补细节。先立住责任,再谈别的,顺序不能乱。
另外有个细节值得普通用户记住:你用AI的姿势不同,肩膀上的分量也不同。它只是个打字机,你写它润色,注意义务低;可一旦你让它自己发邮件、自己下单、自己对外签个字,它成了"替身",你的注意义务立刻往上走。海上也是这逻辑——舵工按你的口令操舵,责任轻;自动驾驶替你掌舵,你这个监督员反而得打起十二分精神盯着。工具还是替身,差的就是这一档。
这股风不是今天才起。9月1号刚上的AI客服新国标就写了:企业对AI的回复负责,不许拿"不代表公司立场"甩锅。海上早把这事说透了——船长在航海日志、在各种文书上签的字,就是代表公司,出了事公司兜。AI现在成了企业的"电子对外发言人",责任自然落到企业头上。把这两件事放一块看,方向清清楚楚:凡是AI替你对外说了话、做了事,责任就焊死在你身上。
那我们普通用AI的人,能抄什么作业?我整理了一份《AI使用责任自查清单》,放号上了,需要的自取。这已经是我在号上连续整理的第十几份船上和AI对照清单了,从离线备份到留痕核查都有,想要哪份在后台喊一声。先说四条最要紧的:
第一,默认"我负责"。AI产出的任何对外内容——文案、图、视频、报价——发之前自己过一遍。它不是你的免责金牌,是你的责任范围。船长不会说"航线是GPS定的",你也不该说"图是AI画的"。
第二,身份别乱用。不拿AI换脸、不冒用别人名义、不生成别人的脸和声音去赚钱。海上冒用IMO号是重罪,网上冒用身份一样要担责。
第三,留痕。AI生成的东西标来源、存草稿、关键时刻人拍板。像我们写航海日志一样,写清楚"谁、何时、基于什么做的决定"。真出了事,有一份干净的记录比什么都强,PSC查的就是这个。前阵子有家公司用AI写合同,一条免责条款被模型悄悄改了口气,赔进去一笔钱——要是当时留了草稿和审批记录,起码能说清责任边界。
第四,高风险动作人最后一道闸。涉及钱、合同、对外发声,AI可以给建议,落笔签字的必须是你。船到关键航段,最终决定权在船长手里,这点AI替代不了。
技术跑得再快,责任跑不掉。海上几百年的规矩就一句:船是你的,命是你的,锅也是你的。AI时代,这条没变。
—— 老李WB