Whisper 语音识别全攻略:本地部署、中文准确率优化与会议转写实战
1.1 Whisper 的定位:OpenAI 开源语音识别模型 我最早把 Whisper 用在播客转写项目里,当时想找一套能离线跑、不按分钟计费的语音识别方案。OpenAI 把 Whisper 的代码...
1.1 Whisper 的定位:OpenAI 开源语音识别模型 我最早把 Whisper 用在播客转写项目里,当时想找一套能离线跑、不按分钟计费的语音识别方案。OpenAI 把 Whisper 的代码...
1.1 向量检索与 Redis 的角色:从键值存储到向量数据库 我最早接触 Redis 是拿它做缓存,存一些用户会话、页面片段。那时候 Redis 就是个键值存储,速度快得离谱。后来做推荐系统,需要找...
我最早听说“PostgreSQL AI”这个组合时,心里想的是:一个关系型数据库怎么跟 AI 搭上边?后来在几个项目里把向量检索、嵌入存储、RAG 工作流跑通,才慢慢明白,数据库在 AI 时代不是配角...
version: '3.4' services: weaviate: image: semitechnologies/weaviate:1.25.0 ports: - "8080:8080" - "5...
1.1 向量数据库与嵌入检索基础 我最早接触向量数据库,是在做一个“让文档能被语义搜索”的小工具。传统数据库按关键词匹配,用户搜“怎么退订”,文档写“取消订阅流程”,两边字面不一样,搜出来的东西就很有...
1.1 向量数据库与 Qdrant 的定位:解决什么问题 我第一次接触向量数据库是在做一个图片检索的小项目。当时面对几十万张图片,用传统的关键词搜索完全行不通,因为我根本无法用文字描述出每张图片的特征...
1.1 向量数据库与 Milvus 的定位:从 Embedding 检索到相似度搜索 我第一次接触向量数据库是在做一个图像搜索的小项目。当时用户上传一张图,系统要在几十万张商品图里找出最相似的那几张。...
1.1 Haystack 是什么:定位、典型用例与生态概览 我第一次接触 Haystack 是在做一个企业知识库问答项目的时候。当时团队试过好几种方案,要么是检索效果不理想,要么是生成质量差强人意。后...
1.1 SGLang 是什么:面向大模型推理与结构化生成的服务框架 我最初听到 SGLang 这个名字,以为它只是另一个大模型推理框架。后来在几个项目里用它部署聊天服务和批量生成任务,才慢慢理解它的定...
1.1 vLLM 的定位、价值与适用场景 我第一次跑大模型推理服务时,用原生 Transformers 加载了一个 7B 模型,单条请求速度还行,并发一上来显存就爆了。那种感觉像开着一辆家轿去拉货,能...