AI 通识（2）：企业接入大模型的三种方式——API、RAG 与微调

「我们公司想用大模型，该从哪开始？」这是我被问得最多的问题。答案是先想清楚你要解决的问题属于哪一类，接入方式基本就定了。常见路径有三条，难度和成本依次递增。

方式一：直接调 API（90% 的场景从这里开始）

把你的问题发给模型服务（如百炼、OpenAI 平台），拿回结果。适合文案生成、摘要、翻译、代码辅助这类「通用能力」需求。优点是当天就能上线、按 Token 付费、随时换模型；缺点是你没法让它回答「本公司报销制度」这种私有知识的问题。

方式二：RAG（给模型外挂一个知识库）

把企业文档切块、向量化存起来；用户提问时先检索出最相关的几段，塞进上下文再让模型回答。这解决「模型不知道我们公司的事」的问题，是客服机器人、内部知识库、制度问答的标准解法。优点是不用改模型、知识随时更新；缺点是要维护一套检索链路，答案质量取决于检索质量。

方式三：微调与 Agent（进阶）

微调是用自己的数据继续训练模型，让它学会特定的风格、格式或领域话术——适合有大量高质量标注数据、且通用模型怎么调提示词都不满意的场景。Agent 则是让模型调用工具、查数据库、执行多步任务，适合流程自动化。两者都需要更强的技术投入，建议在 API 和 RAG 跑通之后再考虑。

落地建议

国内主流云平台（阿里云百炼、腾讯云、华为云等）都把 API、RAG、微调打包成了平台服务，不必自己搭基础设施。先明确场景 → 调 API 验证价值 → 加 RAG 补私有知识 → 最后才考虑微调。顺序反了，是大多数企业 AI 项目烂尾的原因。

系列导航

AI 通识（0）：系列总纲与目录 · AI 通识（1）：大模型是什么——从 Token 说起 · AI 通识（2）：企业接入大模型的三种方式——API、RAG 与微调 · AI 通识（3）：大模型成本账单怎么看——Token 计价与省钱策略 · AI 通识（4）：前世今生·上——图灵、达特茅斯与两次寒冬 · AI 通识（5）：前世今生·中——深度学习革命，从深蓝到 AlphaGo · AI 通识（6）：前世今生·下——大模型时代与今天的竞赛

📄 本文累计阅读 5 次；备考中卡在哪个知识点？欢迎在评论区留言，下一篇优先讲大家问得最多的。