说真的，这一年多我盯着大模型的技术迭代节奏，最直观的感受就是“能力边界一直在往外推”。以前我们讨论一个模型好不好，看的是它写文案顺不顺、答问题准不准。现在完全不够了，多模态成了标配——文本、图像、音频...
我做AI产业观察这些年，越来越觉得“中国AI产业”不是一个轻飘飘的概念。它既包含做芯片、服务器、云服务的底层生意，也包含做算法框架、模型训练的技术生意，还连着制造、金融、医疗、政务、内容和消费里的应用...
我做了几年AI产品测评，常跟刚入行的同事说，这件事不是给模型打个分那么简单。它要回答一个很实际的问题：这款产品放进真实业务里，能不能稳定地把事办成。我写这份总论，想把对象、价值、流程、角色和原则先拉直...
1.1 AI初创公司的定义与核心特征 这两年总有人问我，到底什么样的公司才算AI初创公司。说实话，这个问题比想象中难回答。五年前大家会觉得，只要团队里有人在搞机器学习，那就算AI公司了。放到今天这个标...
我第一次认真研究AI翻译工具，是因为手头同时压着三份不同格式的活儿。一份是客户发来的PDF产品手册，一份是Markdown格式的技术文档，还有一份是临上线前才塞过来的网页文案。那会儿我图省事，直接复制...
我头一回接触“微调”这个词，是在一个做客服系统的朋友那里。他拿着一份几十页的产品手册问我，能不能让模型把这些内容全背下来，回答用户问题时别老跑偏。我当时的第一反应是——直接塞进提示词里不就行了？后来才...
我身边越来越多人开始问我同一个问题：这东西到底该怎么学？有人是写文案的，有人做运营，还有人是产品经理，他们听说“提示词”这个词很久了，打开各种工具却不知道从哪下手。我特别理解这种感受，因为我自己也是从...
1.1 开源模型微调的概念、典型场景与路线选择 我最早接触开源模型微调那会儿，脑子里其实是一团浆糊。后来折腾了几个项目才慢慢摸清楚，微调这件事说白了就是拿一个已经训练好的大模型，用你自己的数据再“教”...
我一直在和文字打交道，最近两年更密集地跟大模型协作。有人问我，摘要总结提示词到底算个什么东西？我通常会说，它像一张写给模型的“压缩说明书”：你把原文丢过去，再告诉模型压缩到什么程度、留下哪些骨头、丢掉...
我平时在团队里做Excel内训，常被问到“Excel公式提示词是不是就是给AI说一句‘帮我写个公式’”。我的回答一般比较直接：它更像一座桥，把业务语言和公式语言接起来。桥搭得稳，写公式这件事会轻很多；...
1.1 什么是音乐创作提示词：从自然语言到生成指令 你打开AI音乐生成工具，在输入框里敲下一行字：“来一首悲伤的钢琴曲。”回车，等几秒，一段音乐出来了。这行字，就是最原始的音乐创作提示词。 但事情没这...
我把数据分析提示词模板看成一份能反复使用的分析说明书。它写给AI看，也写给同事看，还写给我下一次复盘看。模板不追求花哨，追求的是每次分析都能快速说清楚目标、数据、口径和产出。关键词需求拆解、模板核心组...
我最近帮一个团队挑Embedding模型，会议室白板上写满了模型名字，MTEB分数、中文榜单名次、推理成本混在一起。大家最常问的一句话是“榜首那个能不能直接用”。这类问题特别真实，Embedding模...
聊到语音合成模型排行这件事，我得先把话说在前头：排行榜不是判决书，它更像一张地图，告诉你在什么样的地形下往哪走比较靠谱。我自己踩过不少坑，同一个模型在别人榜单上排第一，搬到我的业务里却连及格线都够不着...
我自己看模型推理速度排名，习惯把它当成一张“路况图”，不是终点判决书。榜单把不同模型、不同GPU、不同推理框架放在一起跑，给出一组速度数字。它评估的对象通常是大模型推理速度排行榜里的语言模型、多模态模...
这几年我陆陆续续在自己机器上折腾过不少模型，从最早跑个7B模型都费劲，到现在动辄几十B的模型也能在本地转起来，感受挺深的。本地部署这件事，最开始吸引我的其实很简单——数据不想往外传，而且断网的时候也想...
第1章 开源项目部署基础认知与前置准备 1.1 开源项目部署的常见场景与模式选型 我自己第一次接触开源项目部署，是给自己搭一个图床。那会儿想得特别简单，装个软件、跑起来、能用就行。真上手了才发现，同一...
1.1 开源工作流平台的定义、核心能力与典型应用场景 我平时跟团队聊开源工作流平台，习惯先把它拆成一句话：用开源软件把“一件事按步骤、按规则、按条件往下走”的过程管起来。它不只是画流程图，核心能力通常...
1.1 开源AI搜索的定义、技术链路与能力边界 我第一次认真琢磨“开源AI搜索”这个词，是在帮一个朋友搭建内部知识库的时候。他问我，市面上那么多AI搜索产品，到底哪些是开源的、开源的又意味着什么。说实...
1.1 开源模型推理的定义、边界与核心价值 我自己刚开始接触大模型那会儿，总觉得"推理"这个词特别玄乎。后来折腾久了才慢慢摸清楚，所谓开源模型推理，说白了就是把训练好的开源大模型跑起来，让它根据你的输...
