我做过几年内容项目，也帮朋友搭过AI视频团队。聊商业化，我习惯从三张表看：谁掏钱、钱怎么收、成本压在哪。AI视频制作这行现在很热，热得有点乱。需求侧的企业预算在往短视频、数字人广告和电商素材挪，供给侧...
说实话，这两年跟同行聊得最多的话题之一就是“推理成本又降了多少”。我记得2023年初那会儿，调用一次GPT-3.5级别的模型做几百字的生成，账单看着都肉疼。到了2024年，同样的活，价格已经跌到让我怀...
我这两年看AI辅助科研，感受很直接：案例变多了，真正能落到实验台和临床流程里的案例还是少。围绕“AI辅助科研最新案例”这个主题，我习惯把公开论文、企业技术报告、监管文件、预印本和会议摘要放在一起看。单...
1.1 从全球分工到安全导向：AI芯片供应链变化的阶段性特征 我这几年看AI芯片供应链，感受最深的是它不再只是一条追求效率的全球链条。早些年大家习惯把设计放在美国，把制造放在东亚，把封测分散到多个地区...
这个项目开始得挺偶然。公司内部知识散在十几个系统里，飞书文档、Confluence、老OA、还有一堆没人维护的PDF，新同事问个报销流程都要在群里@三个人。产品总监在周会上说了句“能不能做个机器人自己...
说实话，我最初接触AI做图表这件事，完全是被逼出来的。那阵子手上压着七八份周报，每份都要配图，Excel里拉来拉去拉到眼睛发花。后来试了几个工具，才发现这条路子远比我想象的要宽——市面上的选择多到让人...
1.1 明确网站添加AI客服入口的目标与核心场景 我自己折腾网站这些年，踩过最大的坑就是"看到别人有，我也要有"。给网站添加AI客服入口这件事，真不能这么干。动手之前我会先坐下来问自己：这个入口到底要...
1.1 主题背景与本地化处理PDF的核心价值 我平时接触的PDF很杂，合同、标书、论文、扫描发票、产品手册都有。用本地模型处理PDF，最直接的吸引力是文件不出自己的机器。合同里有客户信息，标书里有报价...
1.1 关键词界定：图片构图分析提示词是什么，适合哪些场景 我经常遇到一种情况：朋友发来一张图，问我“这张照片构图怎么样”，我脑子里有一堆感觉，嘴巴却说不清楚。图片构图分析提示词解决的就是这个卡点。它...
我平时做阅读理解练习提示词，最怕一上来就写“请给我出几道阅读理解题”。这种写法看起来省事，实际用起来特别飘。模型不知道你要练什么，也不知道文本该多长、题目该多难、答案要不要解析。后来我慢慢摸出一个比较...
我这些年帮不少品牌梳理故事，也看着身边的朋友从“让AI随便写一段”走到“认真设计一套提示词”。这个变化挺有意思。品牌故事构思提示词，说白了，就是你把品牌里那些散落的事实、想表达的情绪、希望故事往哪儿走...
我做社群活动策划这几年，越来越觉得“社群活动策划提示词”不是一句命令，更像一张写给AI、写给同事、也写给自己的活动需求单。它把活动目标、社群画像、资源限制、交付格式说清楚，让方案从“看着热闹”变成“拿...
我最近把几台机器上的小模型翻出来重跑，桌面端、边缘盒子、云上容器各放了一版。跑完一圈的感受是，聊“小参数模型”不能只看参数量，模型家族、训练数据、量化方式、推理框架都会把体验拉出差距。我做这份对比，想...
我最近跟几个做AI应用的朋友聊天，发现一个挺有意思的现象。大家演示的时候都在秀模型"会调用工具"，可真上了生产环境，抱怨最多的却是"调了但不对"。这两件事差得挺远。我自己也踩过坑，看着模型辛辛苦苦输出...
我常被问“跑一个7B、13B、70B开源模型到底要多少显存”。这个问题没有统一答案，显存占用受很多变量影响。我习惯先搭一个评估框架，把显存拆成几块，再看变量如何放大或缩小。这样做开源模型显存需求对比时...
我最近在帮几个团队做多模态大模型API的选型咨询，聊下来发现一个挺有意思的现象：大家嘴上都在说“成本很重要”，可真到动手算账的时候，十个人里能拿出八套不同的算法。有人只看每百万token的标价，有人把...
我接触SD.Next图像生成界面是从一次本地部署开始的。这个界面把文生图、图生图、参数调节和结果管理放在一个Web页面里，入口清晰，适合想认真玩AI绘画的人。下面我按自己的使用习惯，把界面定位、启动入...
1.1 从手工提示词到声明式LLM程序 我最早做LLM应用的时候，每天的工作就是和提示词死磕。改一个字，跑一遍测试，看看效果有没有变好；不行就再改，加个“请仔细思考”，删个“务必”，换种措辞再来一轮。...
1.1 推理框架背景与TensorRT-LLM的定位 我最早接触大模型推理部署那会儿，大家手头的选择其实不多。想把一个训练好的模型跑起来，要么直接用HuggingFace的generate()慢慢磨，...
我记得第一次在树莓派上跑语音识别的时候，那叫一个折腾。Python环境装了一堆依赖，模型加载慢得让人怀疑人生，内存直接飙到报警。后来朋友丢给我一个链接，说“你试试Whisper.cpp”。我当时还犯嘀...
