断网也能读懂百万字的那天,我在大海上,想起那次72小时"失联"
今天刷到一条消息:科大讯飞把星火 X2.5 开源了,两款端侧模型,4B 和 1.7B,最猛的一点是原生支持 100 万 Token 上下文,而且能直接在手机、电脑本地跑,不用联网。
我一个远洋油轮船长,在驾驶台看完这条新闻,第一反应不是"国产模型又进步了",而是笑了一下。
海上的人,最懂"断网"这两个字的分量。
先把这事掰开说给不写代码的朋友听。100 万 Token 是什么概念?大概是一份几百页的产品手册、一整套技术资料、甚至一整个代码仓库,你一次性全塞进去,模型能一口气读完、记住前因后果、跨章节给你判断。以前端侧小模型处理长文档,得切成几段分别问,容易前脚忘后脚、已读乱回。现在它能在本地"看全"。打个比方,这相当于把一整本 STCW 培训手册、好几本港口指南和全船货油计划,一次性摊在驾驶台桌上,随问随答。
重点是"本地"两个字。不联网,它也能干活。这对普通用户意味着三件实惠:私密资料不用上传云端、不花调用费、电梯里没信号也能用。
要是我船上装了这么个东西,我能把整套 SMS 安全管理手册、沿途所有港口指南和这一趟的货油计划一次性灌进去,过马六甲、进波斯湾之前问一句"这段有哪些受限水域和报告制度",它当场翻完几百页给我列清楚。以前这活儿,得驾驶员抱着几本纸质资料啃一下午。可真到了波斯湾 GPS 受扰、卫星断了的那天,它还稳稳跑在船上的机器里——这点,比它多聪明都重要。
这恰恰是船上天天面对的现实。我们跑四大洋,很多时候就是"离线"的。卫星通信贵得离谱,还动不动断。你指望云端 AI 在印度洋中间替你做关键决策?信号一掉,它就是块砖。
所以干了二十多年船,我有个固执的看法:所有人都在吹云端的 AI 多强多聪明,但真正能救命的系统,第一课永远是"拔了网也能活"。
海上这套"离线保命"不是临时抱佛脚,是写进骨头里的设计哲学。船舶从设计那天起就假设任何单点都会坏:两套独立的 GPS、两部雷达、应急发电机、自动舵坏了有应急操舵、电子海图黑了有纸海图。我们管这叫冗余。互联网产品恰恰相反,默认你永远在线,挂了再修、数据回云端取,单点故障被当成意外而不是必然。这两种思路,差的就是"断网了怎么办"这五个字。
我们每个月都搞"全船失电加失联"演练,把通信、导航、操舵轮着掐断,逼着大家在没外援的情况下把船稳住。岸上的人觉得这是走过场,真到红海 GPS 受扰、卫星中断那种时候,肌肉记忆就是生和熟的区别。我当二副时最烦这类演习,后来自己当了船长,反而加练——因为我知道,麻烦从不在你准备好的时候来。
端侧还有笔经济账。云端大模型按调用次数收费,活越多越贵;端侧模型一次部署、本地反复用,不烧 API 费。船上早懂这个理——一艘船出发时带够燃油、淡水和备件,力争"自持"跑完整趟航次,不靠沿途随时加注。把关键能力攥在自己手里、不按月租外面,才是过得踏实的做法。
国际海事里这条规矩写得明明白白。SOLAS 第五章要求,ECDIS(电子海图)一旦出故障,必须立刻切回纸海图,而且船员得定期演练这个切换。不是建议,是强制。为什么?因为海图是保命的东西,不能因为它"在屏幕上"就假设它永远亮着。GPS 被干扰、雷达黑屏、通信全断——这些都不是电影情节,是船上真实排得进年度演习的项目。
我讲几件真事。
第一件,红海和亚丁湾那一带,GPS 信号受干扰是老问题了。有次我们走那片,驾助上的定位飘得离谱,二副当场不慌,掏出六分仪测天体、翻出纸海图手工定位,十分钟报出一个让全船安心的船位。现在船上年轻驾驶员,纸海图定位的功夫普遍生疏了。我刚提大副那年,还逼着新上船的二副每周练一次六分仪,小伙子背后吐槽我"过时老头",结果后来真碰上 GPS 受扰,他那个手测船位派上了用场,下来主动给我递了根烟。海上这套"不依赖电"的本领,平时显得多余,关键时刻就是命。
第二件,ECDIS 应急切纸海图的演练。PSC 检查官上船,经常冷不丁让你现场切。切慢了、切错了,就是缺陷项,严重的直接滞留。我们公司每个月都练,纸海图就摊在海里图桌旁边,随时能用。这不是形式主义——是"万一屏幕黑了,你手上还有一张能用的图"的底线思维。chart audit(海图合规审查)查的就是你这套备份齐不齐、新不新、有没有过期。
第三件,有趟航次卫星通信整片失灵,前后差不多 72 小时跟公司几乎"失联"。没有远程指导,没有云端数据,航线计划、天气研判、跟下一港代理的协调,全靠船上的纸本资料、VHF 无线电和驾驶员脑子里的经验硬扛过去。到了港,公司才知道我们这三天是"盲开"过来的。那三天我睡驾驶台沙发,靠纸本潮汐表和目视瞭望把船带进锚地。
回过头看今天这则开源新闻,我倒觉得它点破了一件被很多人忽略的事:端侧、本地、断网能跑,不是什么"阉割版将就",恰恰是 AI 进关键场景该有的样子。
端侧模型还有个好处——数据不出设备。你导入的售后手册、客户资料、内部文档,全在本地,不上云。这对船上也一样重要:船上报务和通信有保密要求,GMDSS 走加密信道,关键航行数据、商务报文不能随便往外飘。一个"东西只在自己船上、断网也运转"的系统,天然比"啥都传云端"让人踏实。我常跟船上的年轻人说,重大航次指令从不在公网聊天工具里敲,就怕泄。
你让 AI 帮你审合同、写报告、管流程,它聪明很重要。但如果你把关键决策全押在一个"必须联网才能工作"的东西上,等于在船上拆掉了纸海图 backup,只留一块屏幕。屏幕黑的那天,你连自己在哪都不知道。
所以给想在工作中用 AI 的朋友三条能直接抄的:
一,任何关键流程,上 AI 之前先问一句:断网了它还能跑吗?不能,就给它配一份"离线 backup"。就像 ECDIS 旁边永远摊着纸海图。重要文件本地存一份,别只信云端唯一副本。敏感资料尽量用端侧或本地部署的模型,别什么坨都往公有云丢。
二,重要决策留本地痕迹。船上的航海日志、车钟记录,是写在本子上的,断电也不丢。你用 AI 做的关键判断,结论和依据存到本地、能随时翻出来,别全锁在某个需要联网才能打开的对话里。
三,真出事的时候,人和经验是最后的"离线系统"。AI 可以是大副,但签字的船长还是你。别把判断整碗外包给一个需要联网才开口的东西。
我把这套思路整理成一份《关键系统离线备份核查清单》,放在公众号和网站上了。做自媒体的、管小团队的、自己跑业务的,照着勾一遍,能少踩很多坑。清单就五步:
一,列清单。把你每天离不开的工具全写下来,别凭印象。 二,标红单点。哪个断了你会当场停摆,给它打星。 三,备离线副本。重要文档、关键数据,本地存一份,不依赖云端唯一副本。 四,定时演练。每季度挑一个"停摆项"真断一次,看兜底顶不顶用。 五,责任人签字。每项兜底写明谁负责,别到时候互相看。
有个做自媒体的朋友前阵子跟我诉苦,说攒了一周的草稿全在某云端笔记里,平台一宕机,连标题都没保住。我听完乐了——这不就是海上最忌讳的"单一信息源"嘛。船上从不允许只靠一份海图、一套定位,你写稿子倒敢把身家押在一个随时会挂的网页上?
还有一点值得一提:星火 X2.5 是开源的。开源对普通人的意义,跟船上"不吊死在单一供应商"是一个理。你能自己部署、能审计它、能换模型不改工作流,就不会被某一家锁死。海上跑全球航线,导航设备、通信系统从来多重备份、多品牌搭配,就是怕一家出问题全船抓瞎。用 AI 也一样,关键活儿别只认一个云端入口。
说到底,海上的智慧就一句话:越关键的东西,越不能假设它永远在线。今天这则国产开源新闻,让我觉得 AI 圈终于有人往这个方向想了。建议你这周就试一次:把自己最离不开的那个工具拔了网,看你能撑几分钟。答案可能会让你后背发凉,但发凉总比真出事强。
—— 老李WB