「我们公司想用大模型,该从哪开始?」这是我被问得最多的问题。答案是先想清楚你要解决的问题属于哪一类,接入方式基本就定了。常见路径有三条,难度和成本依次递增。
方式一:直接调 API(90% 的场景从这里开始)
把你的问题发给模型服务(如百炼、OpenAI 平台),拿回结果。适合文案生成、摘要、翻译、代码辅助这类「通用能力」需求。优点是当天就能上线、按 Token 付费、随时换模型;缺点是你没法让它回答「本公司报销制度」这种私有知识的问题。
方式二:RAG(给模型外挂一个知识库)
把企业文档切块、向量化存起来;用户提问时先检索出最相关的几段,塞进上下文再让模型回答。这解决「模型不知道我们公司的事」的问题,是客服机器人、内部知识库、制度问答的标准解法。优点是不用改模型、知识随时更新;缺点是要维护一套检索链路,答案质量取决于检索质量。
方式三:微调与 Agent(进阶)
微调是用自己的数据继续训练模型,让它学会特定的风格、格式或领域话术——适合有大量高质量标注数据、且通用模型怎么调提示词都不满意的场景。Agent 则是让模型调用工具、查数据库、执行多步任务,适合流程自动化。两者都需要更强的技术投入,建议在 API 和 RAG 跑通之后再考虑。
落地建议
国内主流云平台(阿里云百炼、腾讯云、华为云等)都把 API、RAG、微调打包成了平台服务,不必自己搭基础设施。先明确场景 → 调 API 验证价值 → 加 RAG 补私有知识 → 最后才考虑微调。顺序反了,是大多数企业 AI 项目烂尾的原因。
系列导航
AI 通识(0):系列总纲与目录 · AI 通识(1):大模型是什么——从 Token 说起 · AI 通识(2):企业接入大模型的三种方式——API、RAG 与微调 · AI 通识(3):大模型成本账单怎么看——Token 计价与省钱策略 · AI 通识(4):前世今生·上——图灵、达特茅斯与两次寒冬 · AI 通识(5):前世今生·中——深度学习革命,从深蓝到 AlphaGo · AI 通识(6):前世今生·下——大模型时代与今天的竞赛
📄 本文累计阅读 6 次;备考中卡在哪个知识点?欢迎在评论区留言,下一篇优先讲大家问得最多的。
手机相机或微信「扫一扫」打开文章