总有朋友问我零基础能不能学AI大模型,说网上搜了一个星期,收藏夹里躺着七八条学习路线,越看越不知道从哪里开始。这个状态我太熟悉了。有人说必须先啃完高等数学,有人说第一件事是读十篇论文,还有人说得先买一块顶级显卡。
单独看每条路线都有道理,合在一起就成了一锅粥。这条路线是我自己从零摸过来,又陪几位不同背景的朋友完整验证过的,不玄乎,不贩卖焦虑,每个阶段该学什么、学多久、做到什么程度算过关,都给量化清楚。如果你现在真的什么都不会,只想要一份能照着做的AI大模型学习路线,这篇可以直接抄。
1. 先想清楚“造模型”和“用模型”,选错方向会让你多走半年弯路
零基础学大模型最容易犯的错,不是笨,而是没分清自己的目标就扎进细节里。你是想做大模型产品、想进算法岗,还是纯粹想搞懂原理?方向不同,后续路线完全不同。很多人一上来就按“算法工程师”的标准要求自己,结果死在数学上;也有人明明想做产品,却花两个月去复现训练代码,纯属浪费。
1.1 三条路线和它们各自的“代价”
我把常见的学习目标分成三类,先看清楚再去选:
| 方向 | 核心任务 | 起步难度 | 主要门槛 |
|---|---|---|---|
| 应用型 | 直接用现成的大模型,通过API调用、提示词工程、RAG、Agent等方式做产品 | 较低 | Python基础、工程思维 |
| 算法型 | 参与模型的预训练、微调、评估,改进模型结构或训练方法 | 高 | 数学基础、深度学习框架、大量实验经验 |
| 研究型 | 提出新方法、发论文、复现前沿技术 | 很高 | 系统数学功底、大量论文阅读量、实验能力 |
注意看“起步难度”和“主要门槛”这两列,差距是非常大的。应用型路线一个月内就能做出看得见摸得着的东西;算法型路线光是把基础补起来就得几个月;研究型路线对零基础来说,短期内基本可以不考虑。
1.2 零基础最稳妥的切入口是“应用型”
我自己的判断是,绝大多数零基础的人都应该从应用型切入,哪怕你最终目标是做算法。原因很现实:应用型能在两三个星期内看到自己调教出的模型被真实使用,这种反馈速度会支撑你走下去。先建立“模型直觉”,再往算法方向下沉,比一上来就啃数学效率高得多。
有人担心“从应用开始会不会基础不牢”,这个问题我后面会解释。实际上,等你做过了RAG、Agent、微调这些应用层的事,再回头学算法,你会比那些只会背公式的人理解得深得多。
2. 第一阶段(第1~4周):先跟大模型“混熟”,再开始碰代码
这一阶段很多人会直接跳过。他们觉得“用模型”谁不会?但恰恰相反,第一周最该做的事不是写代码,而是建立一种叫做“模型直觉”的东西——你得先知道模型擅长什么、不擅长什么、什么情况下会胡说八道。
2.1 带着问题“玩模型”,而不是瞎聊天
具体操作:每天用主流对话模型问三个不同类型的问题。比如:
- “请用三句话给小学生解释什么是注意力机制”
- “把这段产品文案改成客服口吻,并加上截止日期”
- “帮我列出周末野餐的物品清单,按优先级排序”
重点不是答案质量,而是观察几个现象:它什么时候答得漂亮,什么时候在礼貌地编故事;同一个意思换个问法,结果会不会差很多;把要求写具体之后,回答风格会不会立刻变化。每天都记录三条观察笔记,一周后你会发现自己已经能隐约感觉到模型的边界在哪里。
这个阶段还有一个高频动作:对比。同一个问题换几个不同的模型提问,你会发现有的模型擅长总结,有的模型擅长代码,有的模型中文很差。这些体验,是任何课程都给不了你的。
2.2 Python学多少算够?别被七八百页的书劝退
很多零基础的人一上来就买一本大厚书,从第一章啃到最后一章,然后没有然后了。入门大模型,Python只需要学这些:
- 变量、字符串、数字类型
- 列表和字典
- if判断、for循环、while循环
- 函数定义与调用
- 文件读写
- 基本异常处理和调试
就这些,前面不需要碰面向对象、装饰器、多线程、爬虫那一堆东西。先学会“照猫画虎”写脚本,不懂的语法跳过,用到再查。拿任何一本Python入门书,只读前八章左右,绝对够了。
后面做数据处理时,再按需补一下JSON解析、Pandas和NumPy的最基础用法即可。千万别一头扎进“完整语法学习”,那跟学语言先背完整本词典再开口说话一样低效。
2.3 环境准备:没有显卡也能起步
零基础的人最容易在环境上被劝退。在这里我替你把心放肚子里:第一阶段完全不需要显卡。
- 注册一个带在线Notebook能力的云平台,多数有免费CPU/GPU额度,浏览器里就能写代码;
- 本地装好Python和代码编辑器,环境变量配好就够日常使用;
- 第一次“跑起来”的标志是:执行一段调用大模型API的示例代码,几秒内拿到模型的回复。
等你真正开始做微调,再考虑花钱买显卡或租云GPU,而且那已经是几个月后的事了。现在买纯属吃灰。
3. 第二阶段(第2~3个月):Transformer没你想的难,但也跳不过去
能熟练调用API之后,下一步就该往模型内部看一眼。不看原理行不行?做特别简单的应用可以,但只要你开始做RAG、调参数、解决模型乱回答的问题,不懂原理就只能靠瞎猜。
3.1 用一句人话理解大模型在干什么
大模型干的事情,本质上就是“预测下一个词”。给它输入一段文字,它根据前面所有内容,算出下一个最可能出现的词是什么;生成完这个词,再继续预测下一个。训练阶段,就是拿海量文本反复做这件事,让内部权重不断调整,最终变成一个庞大的概率模型。
Transformer之所以重要,不是因为它有什么玄学,而是它让“预测下一个词”这件事可以在并行计算下高效进行。你不需要背它的所有细节,但得建立一个正确的心智模型:模型不是“理解了”文字,而是学习到了文字序列中规律性的概率分布。
3.2 只抓三块核心:词向量、自注意力、堆叠层
- 词向量:把每个词映射成一串数字,让意思相近的词在数字空间里位置更接近。你可以把它理解成每个词在“语义地图”上的坐标。
- 自注意力:让句子里的每个词和其他所有词“互相对眼神”,判断谁跟谁有关系、关系有多强。读一句话时,哪些词在呼应,模型靠它学出来。
- 堆叠层:把上面的计算反复做很多次,让模型从短语学到句法,再学到更长距离的语义关联。
学习顺序不要乱:先找一篇讲词嵌入的入门文章,再理解自注意力机制,最后看“层”和“残差连接”的意义,再搞清楚训练和推理时的差别。每一步都用代码验证一下,别光看文字。
3.3 资料优先级:先找带图和代码的课程,别一上来啃论文
网上那些“零基础必读十篇论文”基本是劝退流。正确顺序是这样的:
- 找一门深度学习入门课的“注意力机制”章节,最好带可视化和代码;
- 读那篇里程碑级Transformer论文的摘要和结论,看不懂的细节直接跳过,再看几篇知名博客的图解分析;
- 找一个几百行实现的“微型Transformer”开源示例,逐行读代码,跑起来改着玩。
当你能完成一个“字符级文本生成器”——输入一些文字,模型能学着生成风格相似的文字——恭喜,你已经在动手层面打败了大多数只会收藏资料的人。
3.4 数学只补这几个点,别盲目扩大战线
- 矩阵乘法:不用会证明,但要看得懂张量形状变化;
- Softmax:知道它能把一堆数字变成概率分布;
- 交叉熵:理解它衡量预测和真实答案之间的差距;
- 链式法则:只为了看懂反向传播的直觉,不要求手推所有公式。
这里的策略是“哪里不会补哪里”,而不是系统学完一整本数学教材。真等你做了几个月应用,觉得哪里数学不够用了,再回头专门补,效率完全不一样。
4. 第三阶段(第3~5个月):四个项目按梯度做过去,动手才算学到
理论看完如果不赶紧做项目,一个月后绝对全忘光。我给自己和身边人排的路线是四个递进项目,从工具调用到模型微调,难度逐步爬升。每个项目做完都有明确的验收标准,不需要“完美”,但必须能跑。
4.1 项目1:做一个“带记忆”的多轮问答工具
这个项目的目标不是做一个聊天框,而是熟悉API调用和对话状态管理。具体动作:
- 写一个命令行版本或简易网页版本的多轮对话,能保存用户上一轮说的内容;
- 调整温度参数(temperature)从0到1,观察回答从“严谨”变“发散”的过程;
- 做一个“记忆”存储,让模型在后续对话里能引用前几轮的信息。
验收标准:连续对话十轮不崩,关闭程序后对话记录能保存下来,重新打开可以接着聊。这个小项目会让你第一次感受到“我控制的不是玩具,而是一个可编程大脑”。
4.2 项目2:本地部署一个开源轻量模型
目标只有一个:理解“模型部署”不是魔法,而是把权重加载进内存,按前向公式算一遍。实操步骤:
- 找一个3B到7B参数规模的开源模型;
- 用支持CPU或小显存运行的推理框架跑起来;
- 了解量化概念:把FP16权重压成INT4,感受同样的模型在速度和质量之间的变化。
这里给你一个实用的显存估算公式:模型参数量乘以2字节,大约是FP16精度下的显存需求。例如7B参数模型,FP16大概需要14GB左右显存,量化到INT4后大约只要4到6GB。知道自己机器的上限,就知道该选什么规模的模型,这个公式值不少钱。
验收标准:能用本地模型回答一段中文问题,延迟在你能接受的范围里。做完这个项目,你会自动理解上下文长度、显存溢出、批量推理这些之前看不懂的词。
4.3 项目3:给模型装一个“外挂知识库”(RAG)
主流对话模型有两个天生问题:一是会一本正经地胡说八道,二是知识截止时间固定。想让模型聊你自己文档里的内容,不需要重训练,用RAG就能解决。
整个流程拆开其实不复杂:
- 加载并解析文档(PDF、Word、TXT都可以);
- 把长文本切成小块;
- 把每一块转成向量(也就是嵌入);
- 存入向量检索库;
- 用户提问时,检索出最相关的若干块;
- 把检索结果和问题拼成提示词,一起发给模型。
验收标准:上传一份本地文档,问文档里的细节问题,模型能给出有依据的回答,而不是凭空编。这一步里有个非常重要的提示词技巧——在模板里写明“请只根据提供的资料回答,如果资料中没有相关内容,请直接说不知道”,能明显减少幻觉。
RAG值得反复调优。我的经验是:文本切块大小在256到512个token之间效果比较稳,切太大检索精度下降,切太小上下文碎片化;检索结果顶部相关度不高的块宁可不拼进去,也别硬塞给模型。
4.4 项目4(选做):用LoRA做一次小成本微调
如果前面三个项目都做完了,你觉得自己还有余力,可以再往深处走一步:LoRA微调。它的思路非常聪明:把模型原有参数冻结住,只训练额外插入的一小部分低秩矩阵。这样真正需要更新的参数少了很多,单张消费级显卡也能试一试。
做这个项目时记住几个关键点:
- 数据量不要贪多,几万条以内先跑通全流程;
- 数据质量大于数据量,格式混乱、内容重复的数据会把模型带偏;
- 微调后模型可能“学坏”,一定保留一份原始权重用于对比;
- 常用配置参考:LoRA的rank在8到32之间,学习率大概在1e-4到2e-5这个范围。
验收标准:微调后的模型在特定场景下表现稳定,比如学会“每次只回复短句”或“用特定文档风格回答问题”,同时通用能力没有明显退化。做不过去也没关系,它是高阶选修,做完前三个项目,你已经能在应用层拿得出手了。
5. 第四阶段(第5~8个月):选一条赛道深耕,丢掉“什么都会一点”的错觉
走到第五个月,很多东西你已经碰过了:API、提示词、本地部署、RAG、甚至简单的微调。这时候最该做的不是继续横向铺开,而是收敛。万金油式的学习会让你在真正面对行业需求时说不清自己擅长什么。
5.1 三条赛道对应的技能树
| 赛道 | 核心产物 | 核心技能 | 建议拿出的作品 |
|---|---|---|---|
| 应用开发 | 带AI能力的具体软件产品 | API集成、RAG、Agent框架、工程部署、成本控制 | 1到2个完整的可演示项目 |
| 算法工程 | 提升模型性能的方法和实验 | 微调、数据加工、效果评估、推理优化 | 一个完整实验的复现或改进记录 |
| AI产品与解决方案 | 把AI能力落到真实需求 | 需求分析、提示词策略、效果评测、用户体验设计 | 一个特定场景的完整落地方案 |
从零基础开始的人,我通常建议优先走应用开发路线。这个方向对数学要求没那么高,需求量大,而且每个阶段做出来的东西都能直接给别人看,适合边学边积累信心。
5.2 怎样才算真的“学会了”
一个常见现象是:学了大半年,心里还是没底,因为只知道自己“学过”什么。可以用三个标尺检验自己:
- 不看任何资料,能不能独立写完一个完整功能模块;
- 能不能用大白话给一个完全不懂技术的人讲清楚某个原理;
- 遇到一个没见过的需求,有没有一套自己的排查和设计方案。
三个问题如果你都能答得上来,你就是真的入门了。如果哪一条答不上来,就回头补对应阶段的实践,别急着追新东西。
6. 零基础最容易踩的坑,我替你先踩过一遍
这条路线看起来顺,实际执行时很多人会花式跌倒。下面五个坑是我见过最多的,也是我自己经历过的,每一个都对应一个解药。
6.1 五个高频坑和解法
- 坑1:收藏资源等于学会。解药:给自己立规矩,每个阶段至少产出一个能点开看到效果的东西,收藏的视频再多也不算数。
- 坑2:一上来就复现源码、读论文。解药:先跑通别人写好的代码,改着玩,再回去读论文,顺序反过来就是自虐。
- 坑3:觉得没有显卡就学不了。解药:起步阶段用云平台和API完全足够,显卡是做到微调时才需要考虑的事。
- 坑4:跳过基础直接冲“微调”。解药:先部署推理,再RAG,最后才是微调,这个顺序每跳一步都会在后面连环踩坑。
- 坑5:一个人闷头学,遇到问题死磕不放。解药:找社群、找学习搭子,每周汇报一次自己的进展,哪怕作品很简陋——说出来本身就是一种质检。
6.2 最后,说点我自己的体会
我见过很多零基础的人最后没学成,不是因为难,是因为想一口气把所有知识都装进脑子里。学大模型不像按顺序背教材,更像学一门“与模型协作”的手艺。你今天写的每一行调用代码、调过的每一个温度参数、踩过的每一次崩溃,都会在未来某个项目里变成你的直觉。
我的个人习惯是每天记一条“模型行为日志”:今天它在什么情况下表现惊艳、在什么情况下翻车、我怎么调整提示词让它回来。坚持几个月之后再回看,那本日志比任何课程笔记都有用。
如果你现在正打算开始,别等收藏完这篇再动手。先打开一个编辑器,写一行调用模型的代码,让第一个回答从屏幕上蹦出来——这条路,就是从那里真正开始的。