第一章 人工智能行业全景:从技术突破到应用繁荣
1.1 行业发展阶段与宏观环境观察
去年年底我参加了一场在京郊办的AI产业年会,会场里挤满了人,有做模型的,有做应用的,还有一堆做中间件的。茶歇的时候听见两个创业者在聊,一个说“2023年我们还在讲参数规模,现在客户只问能不能过验收”,另一个点头说“我们公司今年预算砍了三分之一,但AI那块反而涨了”。这个细节挺能说明问题的——行业讨论的焦点确实换了频道,从“能不能做出来”转向了“做出来到底值多少钱”。
我自己的观察是,人工智能这波浪潮大致可以切成几个阶段。2016年到2020年属于算法红利期,CV四小龙那会儿风光得很,但商业化路径一直没完全跑通。2021年到2022年是过渡期,大模型还在实验室里憋大招,行业里弥漫着一种“等风来”的气氛。2023年大模型集中爆发,参数竞赛、榜单刷分、融资消息满天飞。到了2024年下半年,我明显感觉到风向变了,投资人开始算账,企业客户开始要求POC(概念验证)必须带业务指标,行业从技术叙事往价值叙事上靠。2025年往后,应用侧的动作比模型侧更密,这算是我看到的一个基本盘。
宏观环境这块,几个因素叠在一起推动了这轮繁荣。算力成本在往下走,英伟达高端卡虽然还是紧俏,但国产替代和推理芯片的选项多了,企业部署门槛降了不少。政策层面“人工智能+”连续写进政府工作报告,各地智算中心一窝蜂上马,地方政府对AI企业的补贴力度肉眼可见。资本市场的态度从狂热转向理性,但钱没少投,只是更挑场景。我接触到的几家头部基金,2025年的投资策略里“AI应用层”的权重比前两年高出一截。还有一个容易被忽略的因素,企业IT预算的结构在变——传统信息化项目的增量在收缩,AI相关预算在扩张,一缩一胀之间,应用厂商的机会窗口就打开了。
1.2 AI应用与技术发展的互动关系框架
我习惯把技术和应用的关系画成一个双螺旋结构。一条链是模型能力的供给曲线,另一条链是应用场景的需求曲线,两条线不是简单的先后顺序,更像是互相咬合的齿轮。技术突破打开应用的可能边界,应用落地产生的真实反馈又反过来给技术演进指明方向。这个框架我用了两年多,观察下来还算站得住脚。
技术推动应用的例子很直观。多模态能力上来之后,内容创作类工具一下子活了,图文生成、短视频脚本、电商详情页,这些场景在纯文本模型时代做不顺畅。长上下文窗口从4K扩展到百万级token,法律合同审查、代码仓库理解这类需要“吃进大量材料”的应用才敢真正商用。推理能力的提升让AI Agent从概念演示走向实际任务执行,我见过一个做供应链排产的Agent,能自己拆解约束条件、调用计算工具、给出调整建议,这在前两年不敢想。
应用反推技术的案例也不少。客服场景对响应延迟极其敏感,逼着厂商在推理优化上死磕,蒸馏模型、量化压缩、端云协同这些工程手段成熟得很快。电商营销场景要求高并发下的稳定性,倒逼推理集群调度方案迭代。还有数据层面的反馈,金融和医疗客户对模型幻觉的容忍度极低,RAG(检索增强生成)和知识库工具链因此成为标配。我印象比较深的是某家做智能座舱的公司,他们跟模型厂商提需求,要求车端本地推理必须控制在200毫秒以内,这个指标直接推动了小模型和端侧部署方案的进步。需求侧提要求,技术侧解题,解题之后能力外溢到其他行业,这套循环在加速。
1.3 本报告的观察维度、数据来源与研究方法
写这份报告之前我给自己定了个规矩,少讲趋势判断,多讲我看到的实际东西。观察维度主要分三层:应用层看场景落地和商业化数据,技术层看模型能力和工程化进展,产业层看竞争格局和治理环境。三个层面交叉着看,能避免“只看技术自嗨”或者“只看商业短视”的偏颇。我特别关注技术和应用之间的传导效率,有些技术突破三年都没找到像样的场景,有些应用需求半年就催生了新的技术分支,这种错位和咬合是观察行业节奏的好切口。
数据来源上,我用了四类材料。一手调研是主要部分,过去大半年我深度访谈了三十多家企业,包括AI应用厂商、行业客户、模型公司和投资机构,接触的一线从业者超过一百人。二手数据来自公开财报、行业白皮书、招投标信息和产品体验,几家头部厂商的财务数据我做了交叉比对。产品层面我自己上手试了四十多款AI产品,从通用助手到垂直行业工具,有些产品用两周就摸清了边界,有些产品反复迭代了四五个版本,使用体验的变化本身就是行业进步的注脚。还有一部分数据来自公开的评测榜单和学术论文,用来校准技术侧的判断。
研究方法层面,我偏向案例驱动的归纳法。选案例的标准有三个:要么商业化跑得靠前,要么技术应用有独特性,要么踩过的坑有普遍意义。单个案例的信息会被放进行业坐标系里做横向比对,避免以偏概全。我知道这种方法的局限,样本毕竟有限,行业变化又快,有些判断过几个月可能就过时了。所以本报告里的结论我都尽量标注时间窗口和适用条件,不做过度外推。读者可以把这份报告当成一个从业者的观察笔记,带着自己的行业经验来交叉验证,效果可能更好。
第二章 AI应用商业化落地场景与案例分析
上一章我把行业全景拉了一遍,从技术突破聊到应用繁荣。这一章我打算拿放大镜看落地,聊AI应用商业化到底在哪些场景里跑起来了,哪些还停在POC阶段。我跑客户、蹲产品、跟投资人吃饭,听到的抱怨和惊喜都不少。商业化这件事,技术只是入场券,真正决定成败的是场景选得准不准、账算得过来算不过来。
2.1 商业化落地的驱动因素与成熟度评估
客户掏钱的理由很朴素:省人、省时间、少出错、多赚钱。我去年跟一家快消企业的数字化负责人聊,他说传统IT预算在收缩,AI预算反而在涨,老板给的原话是“先别管长期战略,把今年的营销素材成本降下来”。政策补贴和算力成本下降也在推着企业往前走。各地智算中心建起来,模型API价格一路往下掉,企业试错的成本比前两年低了很多。投资人的态度也变了,不再只听参数故事,会追问客户续费率、单客收入、交付周期这些硬指标。
我习惯把AI应用成熟度分四档来看。第一档是概念验证,客户拿一个部门的数据跑个小场景,预算几万到几十万,失败了大不了停掉。第二档是小规模试点,业务部门愿意把真实流程接进来,开始考核解决率、准确率这些指标。第三档是部门级推广,采购流程走完,预算进入年度盘子,供应商要提供SLA和运维支持。第四档是核心业务嵌入,AI变成生产系统的一部分,停机就会影响收入。我看到的实际情况是,营销和客服场景大多在第二档到第三档之间,研发和供应链还在第一档到第二档之间晃,金融风控和政务审批有少数项目摸到了第四档的门槛。
不同行业的成熟度差异很大。互联网和零售客户决策快,一个季度就能从POC走到采购。金融和政务客户流程长,合规审查能拖半年,可一旦签下来,续约率很高。制造客户场景碎片化,一条产线一个需求,标准化产品很难卖,项目制交付更常见。我自己的判断是,成熟度评估不能只看技术指标,要看客户内部有没有人愿意为结果负责。有业务负责人背指标的场景,落地速度明显快一截。
2.2 企业级应用场景:营销、客服、办公、研发与供应链
营销场景是这轮AI商业化跑得最快的领域之一。我接触过一家做美妆品牌的电商团队,他们用AI批量生成详情页文案和短视频脚本,外包内容团队的预算砍了四成。投放素材的迭代速度也上来了,以前一周出三版,现在一天能出十几版。客户反馈的问题也很直接:AI生成的素材点击率有提升,转化率提升幅度有限,品牌调性偶尔跑偏,人工审核环节省不掉。另一家做B2B工业品的公司更谨慎,他们只让AI写产品参数说明和邮件模板,对外投放素材还是交给代理公司。
客服场景的付费意愿比较强,逻辑也好算账。一个AI客服坐席的年费通常不到人工坐席的十分之一,解决率能做到六成到七成,复杂投诉转人工。我见过一家股份制银行的信用卡中心,他们把AI客服接进了电话、APP和微信三个渠道,工单自动分类和知识库推荐用得最顺。客服主管跟我说,AI把一线员工的重复劳动接过去了,人员流失率都降了一点。可他也抱怨,遇到情绪激动的客户,AI的话术模板显得冷冰冰,转人工的触发规则调了好几版才顺。
办公和研发场景属于“人人能用、深度有限”的类型。会议纪要、文档润色、邮件起草这些功能渗透率很高,员工自己就会用,企业采购反而滞后。研发场景的付费点更清楚,代码补全和测试用例生成能直接折算成研发工时。我聊过一家做SaaS的中型公司,他们给研发团队买了代码助手,新员工的代码提交效率提升比较明显,老员工觉得补全质量一般,用了一段时间又关掉了。供应链场景的AI应用更偏项目制,需求预测、排产优化、库存周转这些事跟企业原有系统绑得深,交付周期长,可一旦跑通,客户换供应商的成本很高。
2.3 行业级应用场景:金融、医疗、制造、教育、政务与内容产业
金融行业对AI的付费能力最强,合规要求也最严。我见过某股份制银行用大模型做合同审查,把法务团队从大量格式合同里解放出来,审查意见会标注原文位置,法务人员做复核就行。投研场景也有意思,研究员用AI读财报、摘纪要、对比同业数据,效率提升肉眼可见。可金融客户对模型幻觉的容忍度极低,私有化部署和知识库溯源是标配,供应商想进采购名单,安全资质和审计报告一样不能少。
医疗和制造的场景更碎片,落地节奏慢一些。某三甲医院用AI做出院患者的随访,自动打电话、记录反馈、标记异常,护士的工作量降了不少。影像辅助诊断在几家医院跑得不错,可采购决策链太长,科室主任说好不一定能立项。制造场景我印象深的是某汽车零部件厂的质检项目,AI视觉检测替代了部分人工目检,漏检率下降,产线速度也提上去了。工厂厂长关心的不是模型多大,是误报率能不能压到千分之三以下,换型调参要不要停线。
教育和政务场景带着明显的政策驱动色彩。教育客户对内容安全极度敏感,AI批改和个性化推荐得先过内容审核关。政务热线和审批场景的AI应用推进速度不慢,某地12345热线用AI做工单分类和派单推荐,坐席压力小了很多。内容产业是AI渗透最快的行业之一,图文生成、视频剪辑、版权审核、分发推荐都有AI在跑。我认识一个做短剧的团队,AI帮他们做分镜草稿和字幕翻译,出海内容的生产周期缩短了一半。内容平台对AI生成内容的标识和审核越来越严,供应商得把合规能力做进产品里。
2.4 消费级应用场景:智能助手、创作工具、搜索推荐与AI Agent
消费级AI应用的用户规模大,付费意愿弱,商业模式跟企业级完全两套逻辑。手机厂商把智能助手塞进系统层,语音唤醒、日程管理、跨应用操作这些功能用起来顺手,用户不会单独为助手付钱。智能家居和车机场景的AI助手更依赖硬件入口,车企愿意为更好的语音交互买单,消费者感知到的价值藏在整车体验里。我试过几款AI写作和绘画工具,免费额度用完后,订阅价格从每月十几块到几十块不等,真正掏钱的多是重度创作者。
创作工具的订阅转化率比通用助手高。某剪辑软件的AI字幕、AI配乐、AI抠像功能上线后,付费会员续费率涨了一截。用户的心态很实在:能帮我省两小时,一个月二十块不算贵。另一类产品走的是“免费引流、增值付费”的路子,基础生成免费,高清导出、商用授权、团队协作收钱。我聊过一个做AI头像生成的小团队,他们靠社交平台裂变拉新,付费点放在风格模板和批量生成上,收入波动很大,爆款模板能带来一波高峰,热度过去就往下掉。
搜索推荐和AI Agent是消费级场景里变化最快的两块。AI搜索把问答、总结、来源引用做在一起,用户体验比传统关键词搜索顺滑,可留存率是个难题。我用过几款AI搜索产品,查资料时觉得好用,日常还是习惯打开原来的搜索引擎。AI Agent在旅行规划、生活服务、个人助理这些场景有想象空间,实际体验参差不齐。某旅行Agent能根据预算和偏好排行程,酒店比价环节经常卡住,调用外部API的稳定性直接决定体验。消费级产品的商业化,广告、订阅、交易佣金三条路都在试,谁跑出规模效应,谁才有资格谈盈利。
2.5 典型案例分析与商业模式对比:订阅制、按量付费、项目制与效果分成
我挑几个典型模式拆开看。某AI客服厂商按坐席数收订阅费,客户签年度合同,单价不高,续费靠解决率和工单闭环数据说话,现金流比较稳。某模型厂商的API按token用量计费,开发者和中小企业用多少付多少,门槛低,收入随调用量波动,客户黏性取决于模型效果和迁移成本。某政务AI项目走的是项目制,需求调研、定制开发、私有化部署、三年运维打包报价,单子大,交付周期长,验收环节多。某营销AI公司尝试效果分成,按带来的线索量或成交额抽佣,客户接受度高,营收确认复杂,回款周期不好控。
订阅制适合标准化程度高、使用频率稳定的工具型产品,客户为持续服务付费,厂商要保证版本迭代和SLA。按量付费适合API和算力类产品,弹性好,客户容易起步,厂商得扛住价格战。项目制适合金融、政务、制造这些流程复杂的行业,客户要私有化和定制化,厂商的交付能力和行业Know-how比模型参数更重要。效果分成看着诱人,实际落地需要客户开放业务数据、双方约定归因口径,营销和销售转化链路短的场景更容易跑通。我见过的失败案例里,效果分成谈崩多半卡在“线索算谁的”这种细节上。
投资人看这几种模式的角度不一样。订阅制看续费率和客单价,按量付费看调用量增速和毛利率,项目制看回款周期和标杆客户复制能力,效果分成看归因技术和客户预算稳定性。我自己的建议是,应用厂商别一上来就追求纯订阅,先按客户场景组合收费方式。大客户愿意为定制和私有化付项目费,中小客户更容易接受订阅或按量。产品化程度低的厂商硬推订阅制,交付成本会把毛利吃掉。
2.6 商业化落地瓶颈:投入产出比、数据基础、系统集成、合规要求与组织变革
投入产出比是客户最常拍桌子的话题。我见过一家零售企业做AI选品POC,模型准确率看着不错,上线后发现节省的人力有限,采购、运营、门店之间的协作流程没变,省下来的时间又被别的活填满了。CFO算账时只认硬成本下降和收入增长,软性效率提升很难进预算。供应商拿不出可量化的ROI测算,项目就容易卡在采购环节。我通常建议客户先选一个能算清账的场景,比如客服人力替代、营销素材外包费、质检人工成本,把基准线和AI上线后的数据拉出来对比。
数据基础和系统集成是落地时绕不开的坎。客户的数据散在CRM、ERP、工单系统、网盘和员工电脑里,格式不统一,权限一团乱。AI应用要读数据,得先做数据治理和接口打通,这部分工作量经常被低估。某制造客户的设备预测性维护项目,模型开发只花了六周,接PLC数据和历史维修记录花了四个月。老系统没有标准API,供应商得写定制适配器,集成成本比模型授权费还高。合规要求也在收紧,金融客户要私有化部署和审计日志,医疗客户要数据脱敏和患者授权,政务客户要信创适配。产品进不了采购名单,技术再好也白搭。
组织变革是最难量化的瓶颈。AI把某个环节自动化了,岗位职责要重新划分,部门之间的数据边界要打破,考核指标要调整。我见过一个客服AI项目,技术验收通过了,客服团队负责人担心坐席缩减影响自己的管理幅度,推动积极性一直不高。另一个营销AI项目,品牌部和电商部抢AI生成素材的审核权,流程卡了一个月。企业上AI,买的是一套工具,动的却是组织和利益。我常问客户三个问题:这个场景谁背指标,数据谁负责开放,上线后谁负责运营。三个问题有明确答案,落地成功率会高很多。
第三章 大模型技术演进趋势与产业影响
上一章聊商业化落地,我谈了不少客户那边的真实体感。这一章我想把镜头往上游拉一拉,看看模型这端正在发生什么。说实话,技术演进的速度比我写稿的速度快多了,我经常上个月刚跟人聊完某个技术路线,这个月就被新发布的东西打脸。所以这一章我不打算做技术布道,更多是把我从开发者社区、模型团队、企业CTO那里听到的碎片拼一拼,聊聊这些变化对产业意味着什么。
3.1 大模型能力演进:多模态、推理能力、长上下文与Agent化
多模态这件事,从“能看”到“好用”走了挺长一段路。我年初试过几个模型读产品说明书截图,识别文字没问题,可让它理解图表里的趋势关系,经常答非所问。年中再试,情况好了不少,某模型能直接读一张财务报表截图,把营收、毛利、费用结构拎出来做同比对比。我认识一个做工业质检的团队,他们把设备报警截图和维修记录一起喂给模型,让模型判断故障类型,准确率比纯文本方案高了两成多。多模态的价值不在炫技,在能不能把企业里那些非结构化、跨格式的数据真正用起来。
推理能力的提升是我今年感受最深的变化。以前让模型做多步计算或者逻辑推演,它经常在中间步骤跑偏,现在有些模型会显式地展示思考过程,数学题和代码调试的准确率肉眼可见地往上走。我聊过一家做供应链优化的公司,他们用推理模型做排产约束求解,模型会把约束条件拆开逐步推导,工程师能看懂它在想什么,信任度就上来了。可推理能力强的模型通常更贵、更慢,客户得在效果和成本之间找平衡点。我自己测下来,日常问答用轻量模型就够了,复杂任务再切到推理模型,这种分层调用正在变成应用厂商的标配做法。
长上下文和Agent化是两条交叉演进的线。长上下文从几万token涨到百万token级别,我试过把一份几百页的招股书扔进去让模型做摘要和风险点提取,以前得切块分段处理,现在一口气读完,跨章节的关联信息也能抓住。Agent化的进展更微妙,模型能调用工具、拆解任务、根据反馈调整下一步动作,可实际跑起来,多步任务的成功率还是不够稳。我见过一个做合同审查的Agent,前几步识别条款、比对模板都挺顺,到第五步调用外部法规库时接口超时,整个流程就卡住了。Agent要真正进生产环境,工程侧的容错和回滚机制比模型能力本身更关键。
3.2 架构与工程趋势:MoE、模型蒸馏、小模型、端云协同与推理优化
MoE架构这两年被聊得很多,我一开始觉得这是大厂才玩得动的东西,后来发现中等规模的模型团队也在用。简单说就是把一个大模型拆成多个专家网络,每次推理只激活其中一部分,效果接近稠密模型,推理成本能降下来。我跟一个模型团队的架构师聊过,他说MoE的难点不在训练,在推理时的负载均衡和专家路由策略,调不好会出现某些专家过载、某些专家闲置的情况。他们上线第一版MoE模型时,推理延迟波动很大,后来改了路由算法才稳住。MoE不是万能药,它适合那种对成本敏感、对延迟容忍度稍高的场景。
模型蒸馏和小模型是另一条务实路线。大模型能力往下灌,让小模型在特定任务上达到接近大模型的效果,成本能降一个数量级。我见过一家做智能客服的公司,他们用大模型生成训练数据,蒸馏出一个小模型专门跑意图分类和知识库检索,线上推理成本降了七八成,解决率只掉了两个点。小模型在端侧的机会更大,手机、车机、IoT设备上跑一个几亿参数的模型,能做好本地意图理解、语音唤醒、简单问答,不用把数据全传到云端。端云协同的逻辑正在变成:简单任务端侧解决,复杂任务上云,敏感数据不出设备。
推理优化是今年工程侧最卷的战场。量化、剪枝、KV Cache优化、投机解码这些词以前只在论文里看到,现在变成模型厂商的标配能力。我试过同一款模型在不同推理框架下的表现,吞吐量能差出两三倍。某云厂商的朋友跟我说,他们今年在推理优化上投入的工程人力比训练还多,客户对首token延迟和每token成本的敏感度极高。推理成本往下走,应用厂商的毛利率才能改善,这个链条传导得很快。我自己观察到的一个趋势是,模型厂商开始把推理优化能力当成产品卖点,不再只比榜单分数。
3.3 数据、算力与训练范式的变化
数据这端的变化比我想的要大。公开互联网数据快被扫完了,高质量数据成了稀缺资源。我聊过几个模型团队,他们现在花在数据清洗、去重、质量打分上的时间比调模型还多。合成数据被寄予厚望,用强模型生成训练数据喂给弱模型,或者用模型生成特定领域的对话和推理链。某金融科技公司的做法让我印象挺深,他们用大模型生成大量合规问答对,人工抽检后再拿来微调小模型,效果比纯人工标注好,成本还低。合成数据的风险在于模型自我迭代会放大偏差,他们得定期用真实数据做校准。
算力版图在发生结构性变化。训练千亿参数以上的模型,万卡集群成了入场券,可真正能玩得起的团队越来越少。我听到的实际情况是,除了几家巨头和明星创业公司,大部分团队在用几百张卡做微调和蒸馏,或者直接调用API做应用层创新。推理算力的占比在快速上升,某云厂商告诉我,他们今年新增的GPU资源里,推理用途占了大头。算力租赁市场也在分化,高端卡供不应求,中低端卡开始出现闲置。企业选算力方案时,不再只看峰值性能,会算单位token的综合成本。
训练范式从“预训练一把梭”变成“预训练+后训练+强化学习”的组合拳。预训练决定模型的基础能力上限,后训练和强化学习决定模型在特定任务上的表现。我聊过一家做代码模型的团队,他们的预训练数据里代码占比很高,可真正让产品好用的是后续的指令微调和基于编译反馈的强化学习。用户提交代码补全请求,模型生成候选,编译器跑一遍,通过的加分、报错的减分,几轮迭代下来补全质量提升明显。训练范式的变化带来一个产业影响:模型厂商的竞争从“谁预训练做得大”转向“谁的后训练数据和反馈闭环做得好”,数据飞轮的价值被重新定价。
3.4 开源与闭源生态的竞争格局
开源模型的追赶速度超出我年初的预期。几个主流开源模型系列在通用能力上跟闭源旗舰的差距在缩小,特定任务上甚至反超。我认识一个做法律AI的创业团队,他们基于开源模型做领域微调,私有化部署给律所和法务部门,客户数据不出内网,客单价做得挺舒服。开源模型的许可证差异很大,有些允许商用,有些对商业用途有限制,企业选型时得让法务过一遍。我见过一个客户因为没仔细看许可证条款,产品上线后被要求开源衍生代码,折腾了好一阵。
闭源模型的护城河在往两个方向走。一个是极致能力,多模态理解、复杂推理、超长上下文这些能力需要巨大的训练投入,开源模型短期内追不上。另一个是工程体验,API稳定性、工具调用生态、安全护栏、企业级SLA,这些“周边”能力对生产环境很重要。我跟一个企业CTO聊,他说选闭源API不是因为模型分数高,是因为出问题时有工单可提、有客户经理可找,开源模型出了bug只能去社区翻issue。这话听着不技术,可企业采购决策里权重很高。
生态分化正在形成。巨头把闭源模型跟自家云、自家办公套件绑在一起卖,客户用起来顺滑,迁移成本也高。开源阵营靠社区和云厂商的托管服务扩散,企业可以在多个云上跑同一个开源模型,避免被单一厂商锁定。我自己的判断是,未来不会是开源完全吃掉闭源或者反过来,更可能是分层共存:对成本敏感、数据敏感的场景用开源,对能力上限和工程保障要求高的场景用闭源。应用厂商的聪明做法是抽象一层模型调用层,后端可切换不同模型,不被任何一家绑死。
3.5 技术演进对产业成本、应用门槛与价值链的影响
推理成本往下走的速度,直接改变了应用的经济模型。我去年算过一笔账,一个中等复杂度的客服对话,模型调用成本大概几毛钱,今年同样的任务降到几分钱。成本降一个数量级,很多以前算不过账的场景就变得可行了。某做会议纪要的SaaS公司跟我说,他们去年只敢给付费用户开AI功能,今年直接全量放开,成本压力小了很多。应用厂商的毛利率在改善,可竞争也在加剧,省下来的成本很快被价格战吃掉一部分。客户是受益方,供应商得靠规模和差异化活下来。
应用门槛在降低,但降低的方式跟很多人想的不一样。不是“人人都是提示词工程师”那种降低,而是工程工具链在成熟。RAG框架、Agent编排工具、模型评测平台、向量数据库这些基础设施越来越标准化,一个小团队两周就能搭出一个可用的AI应用原型。我见过一个三人创业团队,用开源模型加云托管向量库,两个月做出一个面向律所的合同审查工具,放在以前至少得半年。门槛降低的另一面是同质化加剧,光靠调API做套壳的产品很难建立壁垒,差异化得往行业Know-how和数据资产上找。
价值链在重新分配。模型层拿走了一部分价值,可更大的价值在往应用层和行业解决方案层转移。我聊过一家做医疗病历质控的公司,他们不自研模型,用开源模型做微调,核心资产是标注好的病历数据和医院工作流理解,客单价和续费率都不错。算力层和云厂商拿走了基础设施的钱,模型层在打价格战,应用层的毛利率分化很大。有行业数据壁垒的应用厂商毛利能到六七十,纯套壳的只能靠走量。我自己的观察是,技术演进让“模型能力”变成公共品,产业价值在往“数据+场景+交付”这三样东西上集中。
3.6 从大模型到AI原生应用的技术栈重构
AI原生应用的技术栈跟传统应用差别挺大。传统应用是前端、后端、数据库三层,AI原生应用多出了模型层、编排层、评测层和数据反馈层。我见过一个做得比较成熟的AI客服产品,他们的架构里模型调用只是其中一环,上面有意图路由、知识检索、对话状态管理、安全护栏,下面有日志采集、效果评测、bad case回流。他们的CTO跟我说,模型换了好几个版本,产品架构没怎么动,因为编排层和评测层把模型差异屏蔽掉了。这种架构思路正在变成共识,应用厂商不想被模型迭代牵着鼻子走。
编排层是技术栈重构里最热闹的一块。单模型调用解决不了复杂任务,得把多个模型、多个工具、多个数据源串起来。我试过几个开源的Agent编排框架,上手快,可生产环境跑起来,错误处理、重试策略、超时控制这些细节得自己补很多代码。某做企业搜索的团队自己写了一套编排引擎,把查询改写、多路召回、重排序、答案生成串成流水线,每一步都有降级方案。他们的工程师说,编排层的复杂度被严重低估了,客户看到的只是一个搜索框,背后是几十个组件的协同。
评测层和可观测性是技术栈里最容易被忽视、又最不能省的部分。模型输出不稳定,今天跑得好好的明天可能抽风,没有评测体系根本不知道问题出在哪。我见过一个团队上线AI功能后,用户投诉回答质量下降,排查了两天才发现是上游模型版本静默更新了。他们后来建了一套回归测试集,每次模型或提示词变更都跑一遍,bad case自动进人工审核队列。可观测性这块也在成熟,token消耗、延迟分布、工具调用成功率这些指标开始进监控大盘。AI原生应用的技术栈还在快速演化,我自己的判断是,未来一两年编排层和评测层会像当年的数据库和中间件一样,长出标准化产品和最佳实践。
第四章 AI应用与技术协同发展趋势
聊完技术演进,我想把视角切到应用端和技术端之间的咬合关系上。前阵子跟一个做企业服务的创始人吃饭,他说了句话我印象很深:以前是模型出什么能力,他们就想办法往上套场景;现在是客户提什么需求,他们倒逼模型团队改能力。这个方向的反转,我觉得比单纯的技术指标提升有意思得多。这一章就围绕这种“咬合”展开,聊聊应用和技术怎么互相推着走。
4.1 应用需求反向驱动技术迭代的机制
我去年跟一个做电商客服的团队聊,他们提了个特别具体的需求:大促期间并发量翻十倍,模型响应延迟不能超过八百毫秒,还得同时识别用户情绪。这个需求摆到模型团队面前,倒逼出了两件事,一是推理侧的动态批处理策略要更精细,二是情绪识别模块得轻量化到能嵌进主流程里。模型团队以前没觉得情绪识别是优先级,客户拿真金白银的订单量投票,优先级立马就变了。这种从场景里长出来的技术需求,比实验室里拍脑袋定的路线图靠谱太多。
还有个做工业巡检的客户让我印象挺深。他们的场景是在矿区,网络信号时有时无,模型必须能在端侧跑。这个需求推着模型团队去搞模型剪枝和量化,把原来几十G的模型压到几个G,精度只掉了三个点。模型团队后来跟我说,这套端侧优化方案反过来变成了他们的标准化产品,卖给了好几个做户外设备的客户。需求拉动技术,技术再变成产品去覆盖更多需求,这个循环一旦转起来,比单点技术突破的商业价值大得多。
我现在观察一个AI公司有没有后劲,会看他们有没有建立这种“需求回传”的机制。不是简单收集客户反馈,而是把高频场景里那些“模型做不到”的抱怨翻译成技术任务,排进研发优先级。做得好的团队,产品经理和模型工程师坐一个屋里,客户的原话直接进需求池。做得差的,销售把需求带回来,层层转述到技术那里已经变形了,做出来的东西客户不认。这个链条的通畅程度,某种程度上决定了技术迭代的有效性。
4.2 Agent与工作流自动化:下一阶段应用形态
Agent这个概念被炒得很热,我试过不少号称Agent的产品,大部分还停留在“能演示”的阶段。可今年下半年我看到了几个真落地的例子,让我觉得这事在起变化。某家做财税申报的公司,他们的Agent能自动登录税务系统、抓取数据、填表、校验、提交,中间遇到验证码会切换人工,遇到政策变动会提示需要更新知识库。他们的工程师跟我说,最难的不是模型调用,是把税务局网站的各种异常情况穷举出来,每个异常对应一套回滚策略。上线三个月,处理了十几万张单子,人工干预率从最初的百分之四十降到百分之八。
工作流自动化的逻辑跟单纯的Agent不太一样。Agent强调自主决策,工作流自动化强调确定性加局部智能。我聊过一家做供应链对账的,他们没追求全自动Agent,把对账流程拆成十二个步骤,每个步骤里嵌一个模型调用做判断,整体流程还是靠规则引擎驱动。客户数据有差异就模型介入判断,没差异直接走规则。他们的技术负责人说得很实在:Agent在开放环境里不稳定,在封闭流程里把模型塞进关键节点,效果可控得多。这个思路我挺认同,企业场景要的是稳定交付,不是科幻感。
我自己的判断是,未来两三年Agent会往两个方向分化。一个是垂直场景的深度Agent,比如合同审查、代码迁移、客服工单,把某个流程吃透,跟业务系统深度集成。另一个是通用Agent平台,提供工具调用、记忆管理、多Agent协作的基础设施,让上层开发者去搭场景。前一条路拼的是行业Know-how和交付能力,后一条路拼的是工程底座和生态。两边都有机会,可拿同一套打法通吃的概率不大。
4.3 多模态能力与行业知识融合
多模态这件事在消费端已经挺热闹了,拍个照问问题、圈个图搜同款,用户用得很自然。可放到行业场景里,多模态的价值点不太一样。我见过一个做电力巡检的团队,他们把无人机拍的绝缘子照片、红外热成像、设备台账文本一起喂给模型,让模型判断有没有缺陷、缺陷类型、严重程度。他们的数据标注特别费劲,得请退休的电力老师傅一张张图看,把老师傅的判断逻辑拆成规则和标签。模型学会的不只是看图,是把老师傅那套“看裂纹走向、看发热分布、看运行年限”的经验编码进去了。
行业知识融合的难点不在模型架构,在知识怎么表示、怎么注入、怎么更新。我聊过一个医疗AI团队的CTO,他说他们试过把指南直接塞进上下文,模型能背出来,可遇到具体病例时经常串了指南。后来他们把诊疗路径拆成决策树,每个节点挂上对应的指南片段和病例特征,模型只在节点上做局部判断,准确率一下子提上去了。这个做法听着不那么“大模型”,可实际效果比让模型读完整本指南好得多。行业知识的组织方式,某种程度上比模型能力本身更决定应用的上限。
多模态和行业知识结合得好的产品,有个共同特征:用户用起来觉得“它懂行”。某家做服装设计的工具,设计师上传一张手绘草图,模型能生成带面料质感的效果图,还能根据设计师标注的“通勤”“轻奢”这些标签调整风格。设计师跟我说,它生成的不一定每次都对,可十次里有六七次能给他灵感,这个比例就值得付费了。模型懂不懂行,用户拿脚投票,花里胡哨的多模态demo骗不了人。
4.4 个性化、实时性与边缘智能的发展
个性化这块我聊过做教育硬件的朋友,他们的产品是个学习平板,里面跑了个小模型分析孩子的答题习惯。错题本自动归类、知识点薄弱环节分析、推荐练习题,这些功能都在本地跑,数据不出设备。他们的逻辑很简单,家长对隐私敏感,数据上云要过好几道合规审批,端侧能解决的事就不往云上放。可端侧算力有限,他们得花很大精力做模型压缩和场景裁剪,把模型做到几百兆以内,同时保证推理速度。这个平衡点不好找,做过头了功能缩水,做不够体验卡顿。
实时性在客服和直播场景里是硬指标。我见过一个做直播带货的团队,他们用模型实时分析弹幕,识别用户问的商品问题,自动从商品库里调答案推给主播。延迟超过两秒就失去意义了,用户已经划走了。他们最后把模型部署在同城的边缘节点,响应压到几百毫秒。边缘部署带来的运维复杂度也不小,节点多了配置管理、版本同步、监控告警都得跟上。他们的运维负责人跟我说,边缘智能听着酷,干起来全是脏活累活。
我现在的看法是,个性化、实时性、边缘智能这三件事往往是捆在一起的。要个性化就得处理用户数据,出于合规和隐私考虑得往端侧放;要实时响应就得靠近用户,边缘计算是绕不开的。模型小到能塞进手机,推理快到毫秒级,数据不出本地,这套组合拳打下来,能解锁一批以前做不了的产品形态。当然成本也不低,端侧适配的机型越多,测试工作量越大,小团队玩这个得慎重。
4.5 评测体系、可观测性与工程化成熟
评测这件事,我越跟一线团队聊越觉得它被低估了。某家做智能招聘的公司的做法我印象挺深,他们养了支小团队专门做“挑刺”,每天从线上抽对话记录,人工判断模型回答有没有歧视性表述、有没有事实错误、有没有答非所问。挑出来的bad case进标注平台,定期回流做微调。他们的产品负责人说,模型供应商的榜单分数他们只看一眼,真正信的是自己这套评测集。供应商换模型版本,先跑他们的评测集,分数掉了直接拒绝上线。这种以我为主的评测策略,正在变成头部应用厂商的标配。
可观测性这块的成熟度比评测还低。我聊过几个CTO,他们能报出模型调用量、平均延迟这些基础指标,问到“某个功能上线后用户满意度变化跟模型输出质量的相关性”时,大部分答不上来。有个团队做得比较超前,他们在每个AI功能里埋了用户行为埋点,用户采纳了回答、修改了回答、还是直接关掉,这些信号跟模型输出的特征向量做关联分析。跑了一段时间发现,回答长度超过某个阈值后采纳率反而下降,他们据此调整了生成长度策略。这种数据驱动的优化闭环,现在能做到的团队还不多,方向肯定是往这边走。
工程化成熟有个很朴素的标志:出事的时候能不能快速定位、快速回滚。我见过一个团队,模型版本更新后客服投诉飙升,他们排查了一下午才找到是提示词模板里一个变量没转义。后来他们建了发布流水线,提示词变更也得走灰度和回滚。这事听着琐碎,可生产环境出问题的代价比什么都大。评测、监控、发布、回滚这几样东西凑齐了,AI功能才算真正进入工程化阶段,不再是实验室里的玩具。
4.6 技术、产品与商业闭环的形成路径
闭环这件事我说得直白点,就是技术投入能不能变成收入,收入能不能反哺技术。我见过太多团队卡在中间:技术不错,产品也做出来了,可商业上找不到买单的人。某家做AI会议纪要的创业公司,技术底子挺好,会议转录准确率很高,可他们一开始卖个人订阅,转化率惨淡。后来转做企业版,跟飞书、钉钉集成,按坐席收费,续费率一下子起来了。他们的CEO复盘说,技术没变,变的是把技术塞进了客户已有的工作流里,客户不用改变习惯就能用上。
商业闭环的另一个关键是成本结构得可持续。我聊过一个做AI法律咨询的平台,他们用大模型做合同审查,效果好,可每次审查的推理成本压不下来,客户付的钱覆盖不了成本。他们后来做了两件事,一是把常见合同类型做成预计算模板,二是在端侧做初步筛查,只有复杂合同才走大模型。成本降了六成,毛利率才转正。技术先进不等于商业可行,这个道理做AI的人现在都懂了,可真正愿意为了成本去做工程妥协的团队还是少数。
我自己的观察是,闭环跑通的团队有个共同点:老板或者核心决策层里有人既懂技术又懂生意。纯技术背景的创始人容易把模型指标当北极星,纯商业背景的容易低估交付成本。两边都懂的人知道什么时候该在技术上加码、什么时候该在商业上妥协。这个平衡感很难从外面招个人来解决,得创始人自己长出来。AI应用这行当,技术迭代快、市场变化快,闭环不是设计出来的,是试错试出来的。
第五章 产业影响、竞争格局与治理挑战
前四章我们把技术、场景、商业化这些事拆开聊了一遍。这一章我想换个视角,把AI放到更大的产业坐标系里去看。说白了,技术本身跑得多快是一回事,它怎么重组产业链、怎么改变竞争关系、怎么触发治理难题,是另一回事。我最近跟几个做投资和合规的朋友聊天,他们关心的点特别一致:这波AI到底在重新分配什么,谁在受益谁在被挤压,规则会往哪个方向收。这些问题没有标准答案,但我把观察到的线索整理一下,或许对判断趋势有帮助。
5.1 对产业链上下游与就业结构的影响
产业链这块的变化比大多数人感知的要深。我上个月见了一个做数据标注的老板,他的生意这两年经历了一轮过山车。大模型训练需要海量标注数据的时候,他那边几百号人三班倒,订单排到三个月后。可去年下半年开始,合成数据和自动化标注工具起来了,他的订单量掉了将近一半。他现在的转型方向是做“专家标注”,找退休医生、律师、工程师来标专业领域的数据,单价高了但需求量小了很多。这个故事挺典型的,AI产业链的利润在往两端走:往上走是算力和基础模型,往下走是深度行业Know-how,中间那些标准化、可替代的环节正在被压缩。
我聊过一个在制造业做大模型落地的朋友,他说客户工厂里最明显的变化不是裁人,是岗位内容的重新分配。原来质检线上有十几个工人盯着屏幕看瑕疵,现在模型先筛一遍,工人只看模型标出来的可疑件,工作量降了六成,可这些工人没被裁,转去做模型标注和异常复核了。他们的岗位名称没变,干的事变了。这种“岗位保留但内容重构”的情况,我在客服、翻译、初级法务这些领域都看到了类似版本。替代是局部的,重构是普遍的。
就业结构的影响我觉得得分层看。高技能岗位里,会用AI的人和不碰AI的人效率差距在拉大,同样一个分析师,有人用模型半小时出初稿,有人手工磨两天。这种效率差会很快反映在薪酬和晋升上。低技能岗位里,重复性高的环节被自动化吞掉的速度比预期快,尤其是那些流程标准化程度高、容错空间大的场景。中间层最尴尬,往上不够专业深度,往下不够灵活便宜。我认识一个做招聘的朋友说,现在企业招人JD里明着写“熟练使用AI工具者优先”,这已经不是加分项了,快变成门槛了。
5.2 科技巨头、初创企业与行业服务商的竞争格局
竞争格局这事我越看越觉得不是简单的“巨头碾压创业公司”叙事。巨头在基础模型层确实有压倒性优势,算力、数据、人才密度摆在那。可我聊过的几个做垂直应用的创始人,他们反而觉得巨头离自己的客户太远。某家做医疗病历质控的创业公司,团队不到五十人,去年营收翻了四倍,客户是三甲医院和区域医联体。他们的护城河不是模型多强,是花了一年半时间啃下来的医院信息系统对接方案和临床知识库。巨头做不了这个,投入产出比不划算,可对他们来说这就是命根子。
行业服务商的角色容易被低估。我见过一家做金融风控的老牌软件公司,他们没自己训模型,把几家大模型的API包了一层,再加上自己积累了十几年的风控规则库和客户数据接口,卖给中小银行。客户买的是“开箱即用的合规风控方案”,不是模型本身。他们的销售跟我说,中小银行根本没精力去研究哪个模型好,他们要的是能过监管检查、能跟现有系统对接、出了问题有人负责。这个生态位巨头抢不走,纯模型创业公司也够不着。
初创企业里我觉得在分化。一类是做深场景的,扎进一个行业把流程吃透,壁垒是行业知识和交付能力,活得挺稳。另一类是做通用工具或Agent平台的,想走产品化路线,可同质化严重,获客成本高得吓人。我聊过一个做AI写作工具的团队,用户量不小,可付费转化率一直上不去,他们创始人说每个月都在跟大厂免费工具抢用户。这类赛道最后大概率是巨头通吃,小团队要么被收编要么转方向。竞争格局的关键不在于谁模型强,在于谁占住了不可替代的生态位。
5.3 数据安全、版权、模型幻觉与伦理治理
数据安全这块我听到的客户顾虑比想象中具体。某家做企业知识库的团队跟我讲,他们最大的销售阻力不是价格,是客户的信息安全部门不批。客户会问:数据存哪里?训练用不用我们的数据?模型输出会不会把A部门的信息泄露给B部门?他们后来做了三件事才过审:私有化部署、数据隔离、输出内容做权限过滤。他们的销售总监说,这套安全方案花了他们小半年时间,可一旦过审,客户迁移成本就高了,续费率反而成了优势。安全合规从阻力变成了壁垒,这个转折挺有意思。
版权问题在内容行业炸得最响。我认识一个做AI绘画工具的产品经理,他们上线三个月就收到好几起投诉,有画师说生成的图跟自己的风格太像。他们后来加了风格过滤和版权检测,可这事的技术边界很模糊,什么叫“太像”谁也说不清。模型幻觉的问题更隐蔽,我聊过一个做法律咨询的团队,他们的模型偶尔会编造法条编号,外行根本看不出来。他们现在的做法是所有输出都带原文引用链接,用户点开能核实。他们的负责人说得很实在:幻觉没法根治,只能靠产品设计让用户能低成本验证。
伦理治理这事我觉得行业里的态度在变。前两年大家聊伦理觉得是务虚,现在越来越多的产品团队主动做红队测试、偏见检测。我聊过一个做招聘筛选的团队,他们专门养了个人做公平性审计,定期检查模型对不同性别、年龄、学历背景的候选人打分有没有系统性偏差。他们的CTO说,这事不做不行,一旦被曝出来歧视问题,客户直接解约,代价比做审计大得多。伦理治理正在从道德议题变成商业风险管理的一部分,这个转变是实质性的。
5.4 监管政策与合规要求的变化
监管这块的变化节奏比很多人预期的快。我聊过几个做企业服务的法务负责人,他们现在的日常是盯着网信办、工信部、行业主管部门的网站看有没有新规。某家做AI客服的公司跟我说,他们的产品要过三道合规:算法备案、数据安全评估、行业主管部门的准入。每道流程材料不一样、周期不一样,他们专门招了两个人做合规对接。他们的CEO说,合规成本在早期是负担,可一旦跑通就变成了门槛,把那些不愿意花精力的小团队挡在外面了。
行业监管的颗粒度在变细。医疗AI要过药监局审批,金融AI要符合银保监的模型风险管理指引,教育AI要过内容审核。我聊过一个做医疗影像辅助诊断的团队,他们拿三类证花了两年多,临床验证、伦理审查、注册审评一轮轮走下来,投入大几千万。可拿到证之后,医院采购的信任度完全不一样了。他们的创始人说,监管严不一定是坏事,严的领域反而竞争没那么卷,因为大部分玩家过不了门槛。这个逻辑在金融、医疗这些强监管行业都成立。
跨境业务的合规复杂度更高。我认识一个做跨境电商AI工具的团队,他们的客户遍布欧美东南亚,每个市场的AI监管要求不一样,欧盟的AI法案、美国的州级隐私法、东南亚各国的数据本地化要求,他们得做多套合规方案。他们的法务负责人说,现在最头疼的是欧盟AI法案的分类分级,他们的产品到底算高风险还是有限风险,解释空间很大,只能保守处理。监管的不确定性本身变成了成本,这个阶段可能还得持续两三年。
5.5 企业AI治理与风险管理框架
企业内部的AI治理,我观察下来大部分还处在“有事找IT”的阶段。某家制造业集团的数字化负责人跟我吐槽,他们集团下面十几个事业部各自接入了不同的AI工具,采购流程、数据权限、输出审核各搞一套,集团层面根本看不清全貌。他们后来成立了个AI治理委员会,把采购、法务、信息安全、业务部门拉在一起,定了统一的上线评审流程。他说这事推起来费劲,可不上收的话风险敞口太大,万一哪个事业部把客户数据传到了不合规的模型服务上,集团得兜底。
我聊过一个金融公司的AI风险管理框架,做得比较成体系。他们把AI应用分成三个风险等级,低风险的内部工具走简化审批,高风险的客户-facing应用要做模型验证、压力测试、人工兜底预案。每个AI功能上线前要填一张风险清单,列明数据来源、模型供应商、输出用途、失败模式、应急方案。他们的风控总监说,这套框架不是一次建成的,是踩了几个坑之后慢慢补起来的。最有价值的部分是失败模式清单,每次出问题就往上加一条,现在攒了四十多条,新项目上线前过一遍,能避开大部分已知的坑。
中小企业的治理现状要粗糙得多。我聊过几个几十人规模的AI创业公司,问他们有没有AI治理框架,大部分说“还没来得及搞”。他们的逻辑是先跑起来再说,等规模大了再补。这个逻辑不能说错,可有些坑早期不埋雷后面代价很大,比如训练数据的版权来源、用户数据的存储期限、模型输出的审核机制。我见过一个团队因为用了来源不明的数据集被起诉,赔的钱够他们做三年合规。治理这事有点像买保险,出事之前觉得多余,出事之后觉得买少了。
5.6 可持续AI与算力能耗问题
算力能耗这事在行业里讨论得越来越多,可落到实际决策上,大部分团队还是成本优先。我聊过一个做大模型推理服务的团队,他们的电费占运营成本的三成左右,夏天高峰期限电的时候还得错峰调度。他们的运维负责人说,现在选机房的一个重要指标就是绿电比例和电价,西部一些数据中心绿电便宜,可网络延迟高,得在成本和体验之间找平衡。他们后来把非实时任务放到西部,实时推理放在离用户近的节点,混合调度下来电费降了两成。
模型层面的能效优化我觉得被低估了。某家做端侧AI的团队跟我讲,他们把模型压缩之后,同样的任务耗电降了七成,用户明显感知到设备发热少了、续航长了。他们的产品经理说,能耗优化在消费电子客户那里是硬需求,不是环保情怀,是用户体验指标。企业级客户也开始算这笔账了,我见过一个做视频分析的客户,他们把模型从通用大模型换成蒸馏后的小模型,同样的分析任务GPU用量降了六成,一年省下来的算力钱够养一个算法团队。
可持续AI这个话题我觉得得避免两种极端。一种是把能耗问题说得迫在眉睫,好像明天就要限电停服,这个不符合实际。另一种是觉得技术迭代会自动解决能耗问题,不用管,这个也过于乐观。我自己的判断是,能耗会变成AI基础设施的一个常规优化维度,跟成本、延迟、可靠性并列。做得好的团队会把它纳入架构设计的考量里,做不好的团队会在电费和限电上吃亏。这事没什么情怀可言,就是工程和成本问题,早面对早主动。
第六章 趋势展望与战略建议
聊完前面的产业格局和治理难题,这一章我想把目光往前放一放。过去两年多我见了几十家做AI的公司,有做模型的、做应用的、做投资的、做企业服务的,每次聊到最后大家都会问同一个问题:接下来两三年,这波AI到底会往哪走,现在该押什么、该防什么。我给不出水晶球,但把观察到的信号串起来,能拼出一个大致轮廓。这章就讲讲我看到的几条确定性比较高的线索,以及不同角色在这个阶段该怎么下注。
6.1 未来3至5年AI应用与技术发展的关键判断
我对模型能力继续往上走这件事没有怀疑,可我对“能力提升自动带来商业价值”这个假设越来越谨慎。过去一年多模型跑分涨得很快,可企业客户的实际付费意愿没跟上同样的速度。我聊过一个做企业AI采购的朋友,他说客户现在问的问题变了,前两年问“你们模型多少参数、跑分多少”,现在问“上线之后我的客服成本能降多少、多久能回本”。这个转变说明市场在从技术崇拜往价值核算切换。未来三到五年,跑分的边际意义会越来越小,能把模型能力翻译成客户可感知的成本节约或收入增长的团队,才会拿到真正的钱。
Agent这个方向我判断会走出泡沫期,进入一个分化的落地阶段。去年大家一窝蜂做通用Agent,演示很惊艳,可真正进生产环境跑起来的比例很低。我聊过一个做企业流程自动化的团队,他们一开始想做万能Agent,后来发现客户根本不敢把关键流程交给一个黑箱,最后收缩到三个垂直场景:合同审核、发票处理、工单分派,每个场景都把可解释性和人工介入点做进产品里,反而卖得动了。未来三五年Agent的主战场不在“什么都能干”,在“某几件事干得比人稳、比人便宜、出了错有人兜底”。通用Agent会变成巨头的入口产品,垂直Agent才是中小团队的机会。
推理成本下降的速度我认为会超出大部分人的预期,这件事对行业格局的重塑比模型能力提升更值得盯。我聊过一个做视频分析服务的客户,他们去年把推理从大模型换到蒸馏后的小模型,加上推理框架优化,同样任务的单位成本降了差不多七成。成本降下来之后,很多原来算不过账的场景突然就算得过来了,比如全量客服质检、全量文档审查、全量视频巡检,这些以前只能抽检,现在能全检。成本曲线往下的过程中,会冒出一批新应用,这是未来三年最值得关注的变量之一。谁能在成本拐点上提前卡住场景,谁就能吃到红利。
多模态会成为基础设施级的标配,不再是一个卖点。我聊过几个做行业应用的团队,他们都在往产品里加图像、语音、视频的理解能力,不是为了炫技,是客户的真实工作流本来就是多模态的。制造业的质检要看图、听异响,医疗要看影像加病历文本,客服要处理语音加文字加截图。模型侧多模态能力成熟之后,应用侧的组合创新会集中爆发。我的判断是到2027年前后,单一文本能力的AI产品会很难卖,多模态会像今天的“联网搜索”一样,变成产品的基本配置而不是差异化优势。
开源和闭源的格局会继续拉扯,可企业的选择逻辑在变清晰。我聊过一个做金融科技的团队,他们核心业务用闭源大模型保效果,边缘的、批量的任务用开源模型自己部署控成本,两条腿走路。这种混合策略未来会成为主流,尤其是中大型企业,不会把鸡蛋放在一个篮子里。开源生态的成熟速度很快,很多开源模型在特定任务上已经够用,加上微调和私有部署的灵活性,对闭源形成实质竞争。闭源厂商的护城河会从“模型更强”转向“工具链更全、服务更稳、合规更省心”。这个转变对客户是好事,对只会拼跑分的厂商是坏消息。
行业数据和领域知识的重要性会持续上升,这一点我觉得被很多技术背景的创业者低估了。我跟一个做医疗AI的创始人聊过,他说他们最值钱的资产不是模型,是五年积累下来的标注数据集和几十家医院的流程对接经验。新玩家拿同样的开源模型进来,能力上追得很快,可数据和流程的差距追不上。未来三到五年,通用能力会越来越像水电一样可得,真正的壁垒往数据资产、行业流程、客户关系这些“不性感”的地方转移。纯技术团队如果不去啃这些硬骨头,会发现自己做的产品很容易被替代。
监管会成为常态而不是变量。前面章节聊过的那些合规要求,未来几年只会更细不会更松。我判断AI应用的合规成本会形成一个分水岭,把愿意认真做产品的团队和想赚快钱的团队分开。这对行业整体是好事,可对创业者来说得提前把合规成本算进商业模型里,别等到产品要上线了才发现过不了审。我见过一个团队产品做得不错,卡在算法备案上拖了半年,现金流差点断掉。合规前置这件事,未来会成为创业的基本功。
6.2 企业AI落地路线图与能力建设建议
企业该怎么落地AI,我见到的失败案例比成功案例多,失败的路径五花八门,成功的路径反而挺像。我跟一个在制造业集团做数字化负责人的朋友深聊过,他把他们集团这两年的落地经验总结成一句话:先找“疼点”再找“亮点”。他们一开始也被各种AI演示晃花了眼,搞了个大而全的AI中台,投了不少钱,结果业务部门不用。后来换了个打法,从质检和供应链预测这两个最疼的环节切入,做小做深,半年见到效果,业务部门自己找上门来要更多。这个顺序很重要,先解决具体问题建立信任,再谈平台和规模化。
路线图上我倾向于分三步走,可这三步的时间节奏每家不一样,别硬套。第一步是试点,选一两个高频、标准化、容错空间大的场景,用现成模型加少量定制快速上线,目标是验证价值、跑通流程、积累内部信心。第二步是扩展,把试点跑通的模式复制到相邻场景,同时开始建数据底座和治理框架,这一步最容易出问题,因为场景一多,数据权限、模型管理、成本核算的复杂度会指数级上升。第三步是重构,用AI重新设计业务流程,而不是把AI塞进旧流程里。我聊过一个做客服的团队,他们前两步走了两年,第三步才真正尝到甜头,因为重构涉及组织调整,急不得。
能力建设这块我想说点实在的。很多企业一上来就想着招算法团队自建模型,我觉得这个决策要非常谨慎。除非你是数据量极大、场景极特殊、或者AI就是你的核心业务,否则自建模型的投入产出比很难看。我聊过一个做零售的企业,他们自建了个模型团队养了二十多人,一年烧掉几千万,效果还不如直接调API加自己微调。后来他们把团队收缩到五个人,专门做场景适配和数据治理,成本降下来效果反而好了。企业的核心能力应该建在场景理解、数据治理、流程集成这些地方,模型本身能买就买、能租就租。
组织层面的准备比技术准备更容易被忽略。我见过太多企业技术方案做得漂亮,可业务部门不配合、IT部门不接盘、法务部门卡审批,项目推不动。有效的做法是尽早把业务、IT、法务、安全拉进同一个决策机制里,让每个角色在早期就参与进来而不是最后来挑毛病。我聊过一个做得比较好的集团,他们设了个AI推进小组,业务负责人牵头,IT做支撑,法务和安全做前置评审,每个季度过一遍所有AI项目的进展和风险,这个机制让他们的落地速度比同行快不少。机制比人才更难建,可机制建起来之后人才的效用会被放大。
人才策略上我觉得内部培养的优先级应该高于外部招聘。外部招算法专家很贵,而且很多专家擅长的是模型层的事,未必懂你的业务。内部培养一批“懂业务又懂AI工具”的复合型人才,成本低、粘性高、落地快。我聊过一个做物流的企业,他们从各业务线抽了十几个人做AI应用官,集中培训两个月,回到各自部门做场景挖掘和需求对接,效果比空降一个AI总监好得多。这批人后来成了他们AI落地的种子,每个部门都有自己的推手,不用靠总部硬推。
数据基础这件事我得单独强调一下,它是所有AI项目的地基,可大部分企业的数据现状经不起细看。我聊过一个做医疗信息化的团队,他们说客户医院的数据散在十几个系统里,格式不统一、口径不一致、质量参差不齐,AI项目一半的时间花在数据清洗上。企业如果真想把AI用起来,数据治理这笔账躲不掉,越早投入越省钱。我的建议是先围绕选定的场景做数据治理,别想着一次性把全公司的数据都理顺,那个工程量太大,也没必要。场景驱动的数据治理,投入产出比最可控。
自建还是采购的决策,我的判断标准是看这个能力是不是你的差异化来源。营销文案生成、客服问答、会议纪要这些通用能力,直接买成熟产品最划算,自己做什么都比不过专业厂商。行业知识密集、流程特殊、数据敏感的核心环节,值得投入自建或者深度定制。我聊过一个做法律的团队,他们的合同审查逻辑非常行业化,用通用产品效果差很远,自己投入做定制版反而做出了壁垒。这个判断每家不一样,可原则是清楚的:通用能力买,差异化能力建。
6.3 投资者与产业参与者需要关注的核心要点
跟投资圈的朋友聊多了,我发现看AI项目的框架这两年变了好几轮。前两年看团队背景和模型能力,现在看得更多的是收入质量和留存数据。我聊过一个投企业服务的投资人,他说他现在最关心的三个指标是:客户续费率、单客户获客成本、毛利结构。很多AI应用公司收入增长很快,可续费率低得吓人,客户试用完就不续了,这种增长是买来的不是挣来的。他给我举了个例子,某家做AI营销工具的公司年收入翻了三倍,可续费率只有三成,算下来单个客户的终身价值是负的,这种项目他碰都不碰。
我更看好的是那些把AI嵌进客户工作流深处的项目。我聊过一个做供应链AI的公司,他们的产品跟客户的ERP、WMS深度打通,客户换掉的成本极高,续费率长期在九成以上。这类公司的增长慢一点,可质量高得多。投资者看AI项目的时候,我建议多问一句:客户停用你的产品之后,要花多长时间恢复原来的工作方式?答案越长,护城河越深。那些客户随时能换掉的产品,再高的增长也不牢靠。
产业参与者这边,我觉得关键是选对自己的生态位。巨头的优势在基础模型、算力、流量入口,创业公司的机会在垂类场景、行业交付、客户关系。我聊过一个做教育的创业团队,他们不去跟大厂拼通用能力,专门做K12学校的作业批改加学情分析,把教研流程和学校管理系统的对接做透,在一个细分市场里做到了头部。他们的创始人说得很清醒:我们不去想改变世界,就想在一个足够深的坑里挖到水。这种定位在当下的竞争环境里反而更稳。
中间层的机会我觉得被低估了。模型层和应用层之间有一层东西,包括数据标注、模型评测、提示词工程、Agent编排工具、AI安全检测、算力调度,这些环节看起来不性感,可需求是实打实的。我聊过一个做模型评测的团队,他们给企业客户提供第三方模型选型评估服务,生意好得出奇,因为企业现在面对几十个模型不知道选哪个,需要有人帮他们做客观对比。这类“卖水人”的生意,在淘金热里往往比淘金更稳。
产业参与者还得盯住一个变量:客户侧的组织成熟度在快速提升。前两年企业客户对AI的认知参差不齐,销售靠概念就能签单。现在客户的AI负责人越来越专业,问的问题越来越细,采购流程越来越规范。这个变化对厂商是好事也是挑战,好处是认真做产品的公司更容易胜出,挑战是靠信息差赚钱的空间在收窄。我聊过一个做AI客服的销售总监,他说现在去客户那里,对方经常带着技术团队来问架构细节和失败案例,准备不充分的销售根本接不住。市场在成熟,厂商也得跟着成熟。
6.4 行业观察结论:从技术竞赛走向价值兑现
写到这一章的最后,我想把整个报告的观察收个尾。这两年多跟踪下来,我最大的感受是行业的主线在切换。2023年到2024年上半年,大家比的是模型能力、参数规模、跑分榜单,那是一个技术竞赛的阶段。2024年下半年开始,尤其是进入2025年,我见到的客户、投资人、创业者聊的东西明显变了,比的是谁签下了标杆客户、谁的续费率高、谁的单位经济模型跑得通。这个切换不是技术不重要了,是技术从目的变成了手段。能在这个切换里活下来并且跑出来的公司,往往是那些早早把注意力放在客户价值上的团队。
我聊过一个做企业AI的创始人,他说了句话我印象很深:这波AI最大的风险不是技术不够好,是技术太好而客户用不上。他的意思是,模型能力已经远远跑在了企业实际吸收能力的前面,很多项目失败不是因为模型不行,是因为客户的流程、数据、组织还没准备好。这个判断我觉得抓住了要害。未来几年行业的主题会从“还能做什么”转向“怎么让已经能做的事真正落地”。落地这件事没有技术竞赛那么激动人心,可它才是价值兑现的真正战场。
价值兑现的路径我认为会分三条腿走。一条是效率型价值,把重复劳动自动化,这部分最容易量化,也是目前大部分项目在做的事。一条是体验型价值,用AI改善客户体验或员工体验,这部分价值不太好量化,可客户能感知到,往往带来留存和口碑。还有一条是创新型价值,用AI做出原来做不到的产品或服务,这部分风险最大、回报也最大。三条腿里,效率型价值会在短期内成为主流,创新型价值会在三五年后冒出来,中间那条体验型价值最容易被低估。我在好几个行业都看到,体验改善带来的商业回报比单纯的效率提升更持久。
对行业的整体判断我持谨慎乐观。乐观的地方在于,技术能力、成本曲线、客户认知、基础设施,这几个要素都在往好的方向走,AI应用的土壤比两年前肥沃得多。谨慎的地方在于,泡沫还没完全挤干净,还有一批估值和收入严重背离的公司,还有一批靠概念融资的团队,这批玩家在接下来一两年会经历一轮出清。出清对行业是好事,把资源集中到真正创造价值的团队手里。我聊过一个投资人的说法挺有意思:这波AI不会像互联网那样赢家通吃,会像企业软件那样,活下来一批各自占住一块地盘的玩家。这个判断我认同。
最后我想说的是,观察这个行业最好的方式不是盯着一两个明星公司或者明星模型,是盯着一线客户的实际使用情况。我每次出差最愿意干的事就是去客户的办公室坐坐,看他们怎么用这些工具,问他们哪些地方好用哪些地方鸡肋,听他们吐槽。这些东西不上新闻,可它才是行业最真实的体温。技术竞赛会继续,价值兑现的账本也会一页页翻开,我这个观察者能做的,就是继续跑一线、继续记录、继续把这些真实的信号整理出来。这大概就是一个深度观察报告该有的姿态。