ARTICLE DETAIL

资讯详情

深耕网站建设、视觉设计与SEO优化的一线实战洞察。

如何打造简历级LLM项目:ai-engineer-notebooks的Capstone毕业设计完全指南(含Agile流程与面试清单)

如何打造简历级LLM项目:ai-engineer-notebooks的Capstone毕业设计完全指南(含Agile流程与面试清单)

【免费下载链接】ai-engineer-notebooks

Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.

项目地址:https://gitcode.com/gh_mirrors/ai/ai-engineer-notebooks
点击查看免费下载

在 ai-engineer-notebooks 中,Capstone 毕业设计是整个课程的最后一关:把一个真实用户的问题,做成一个可部署、可评测、写进简历的 LLM 项目。本文完整拆解 Capstone 的硬性要求、现代技术栈选型、Agile 流程模拟和面试准备清单,帮新手用一套"实习级"叙事,快速做出能拿给面试官看链接的简历级 LLM 项目。

为什么你的 LLM 项目不能只是一个 Notebook

很多人把毕设做成一个 Notebook,但在筛选中这会暴露"周末黑客"的信号,而不是生产级判断力。仓库里 CAPSTONE.md 开宗明义:

The notebooks teach the skills; this project is what goes on your resume.

🎯核心原则:把它建成一个真实的代码仓库,部署上线、可以链接,能经受 15 分钟"敌意提问"。

先照着看一遍:四个端到端案例研究

在动手之前,建议先读(并运行)案例研究 01-customer-support-assistant.ipynb,它演示了一个客服助手从模糊需求到部署上线、再到生产环境调试的完整弧线。

12-case-studies-and-capstone/README.md 中列出了四个案例:

案例教会你的核心判断
客服助手把模糊需求做成部署+评测系统,再在生产环境诊断质量回退
合同抽取:Pipeline vs Agent用准确率+Token 成本证明:步骤已知时,Pipeline 胜过 Agent
红队鲁棒性基准用 attacker→target→judge 循环测量模型鲁棒性
深度伪造检测"是否假图"与"是否违规"需要不同的检测工具

⭐ 关键洞察:面试和真实工作从不给你"实现一个 RAG 管线",而是给你"我们的客服团队快淹死了,帮忙"。这两句话之间的差距,就是这份工作。

Capstone 的五个不可妥协项(Non-negotiables)

这是简历级 LLM 项目与玩具 Demo 的分水岭,逐项对照检查:

  1. 真实数据—— 一份混乱的语料或工作流,而不是教科书级数据集(可参考 data/README.md 中的共享语料设计思路)
  2. 一个不是你的真实用户—— 朋友的公司、团队、开源社区。面试官会追问你如何把对方模糊的需求翻译成系统
  3. 一个 Serving 组件—— API 或应用,已部署、可链接,且你能在负载下推理其行为(对应 09-serving-inference/ 与 10-ml-system-design/ 章节)
  4. 一套评测方法—— 书面评测报告,随时间跟踪;"它能跑"不算评测(对应 04-evals/ 章节)
  5. 一份写作说明—— 用户问题、系统、评测结果、下一步计划

现代技术栈选型:从手写循环到框架

教学 Notebook 刻意"无框架"——你自己写 Agent 循环、RAG 和评测,理解每个库在做什么。Capstone 正是反转的时刻:组装真实技术栈,并准备好解释每个工具"它做什么、你为什么选它"。

这个"先手写、再上框架"的弧线本身就是一个强面试答案。按层选型(按需取用,不必全上):

层选用对应教学章节
RAG / 编排LangChain、LlamaIndex 或 LangGraph03-rag/、05-agents/
Serving / 推理vLLM 或 TGI(自托管);起步用托管 API09-serving-inference/01-serving-frameworks.ipynb
推理性能continuous batching、量化、KV-cache 估算09-serving-inference/02-inference-performance.ipynb
微调(如果值得)通过 PEFT 做 LoRA / QLoRA06-adaptation/01-fine-tune-vs-rag-vs-prompt.ipynb
实验跟踪与模型注册MLflow:跟踪每次评测运行,注册上线模型08-operations/03-experiment-tracking-and-registry.ipynb
可观测性tracing、安全日志、成本/延迟指标08-operations/01-observability-and-llmops.ipynb

你不是算法方向的候选人,没人期待你发明新模型。招聘信号是AI 分布式系统 / 应用工程:把现代技术栈接进一个已部署、已评测、可运维的系统,并有意识地做成本/延迟/质量权衡。

三种高胜率项目形态

📌 选一个你最容易拿到真实数据的形态:

  1. 基于真实混乱语料的 RAG—— API 后面提供服务,附带 MLflow 跟踪的评测报告,展示你测量了什么、因为测量改了什么
  2. 自动化真实多步工作流的 Agent—— 带护栏和成本预算,用 LangGraph 编排,端到端可追踪
  3. 当前工作中的内部 AI 工具—— 采纳率数字比架构图更有说服力

用系统思维的数字说话:QPS、成本与性能

这一层决定了你是"调了个 API"还是"拥有 Serving 层"。在写作说明中放一个简短的系统设计小节:

  • 容量估算(Sizing)—— 沿用 10-ml-system-design/01-designing-an-inference-service.ipynb 的"餐巾纸算法":预期 QPS、每请求 Token 数,因此需要多少 GPU(或托管端点成本),以及 10 倍流量时哪里会先崩
  • 性能—— 你实际拉动的一个性能杆及其测量效果(batching 吞吐、量化的质量/延迟权衡、Prompt 缓存),必须绑定一个数字
  • 可靠性与成本—— 重试/超时/降级(08-operations/02-reliability-and-fallbacks.ipynb),以及月成本和你会调哪个旋钮来削减它

面试官会追数字。"约 40 峰值 QPS、70% 利用率下约 2 张 GPU、月成本约 $3k,量化后砍半"是及格答案;"部署在云上"不是。

Agile 流程与角色分工:让项目读起来像实习经历

这段经历要在简历上读起来是实习级项目,意味着你需要一个工作过程的故事,而不只是交付物。面试官会问:"你的角色是什么?团队怎么协作?需求变更怎么处理?"

双周 Sprint 节奏

  • 用两周一个 Sprint:Backlog、Sprint 计划会、每日站会节奏、回顾会
  • 工作以 Ticket 形式跟踪(Issues/Projects 即可)
  • 即使是单人项目,也按 Sprint 叙述——这正是面试中讨论工作的方式

角色表:即使一人分饰多角,也要知道每个角色拥有什么

角色负责在本项目中
产品经理 (PM)用户问题、优先级、验收标准范围界定文档(11-customer-craft/01-scoping-and-discovery.ipynb);"好"的定义
技术负责人 / EM架构、任务拆分、评审系统设计(10);把工作拆成 Ticket
AI/ML 工程师Prompt、RAG、Agent、微调、评测01–06 的大部分;评测 Harness
平台 / MLOpsServing、部署、CI、跟踪、注册08–09;MLflow 与部署
SRE / On-call可靠性、监控、事件响应08/02;Runbook
QA / 评测负责人Golden set、回归门禁、放行签核02、04;"现在能上线吗?"

选一个你要写在简历上认领的角色(通常是 AI/ML Engineer),把它做深,并说清你如何与其他角色交接、依赖他们——这就是协作问题的答案。

💡 推荐 Mentor 角色扮演:让 Mentor 扮演 PM/利益相关方,给你模糊需求、Sprint 中途改需求、在 Demo 时质疑、在模拟评审中追问"为什么这个架构"。排练过程问题和排练技术问题同样重要——大多数候选人能描述系统,却在"团队是怎么做决定的?"上卡壳。

简历上的写法:流程 + 影响

CAPSTONE.md 给出了可直接套用的模板句式:

"为 [真实用户] 构建并部署了一个基于 [真实语料] 的 RAG 助手;在双周 Sprint 中负责 AI/评测层,用 vLLM 提供服务,配合 MLflow 跟踪的评测门禁;通过检索调优和量化把回答成本降低 40%,并用 50 条 Golden set 验证。"

结构是:范围 + 部署事实 + Sprint 过程 + 技术栈 + 一个数字化的改进。

上线前检查清单:面试准备清单(Interview Readiness Check)

上线前,逐行走一遍 docs/best-practices-and-anti-patterns.md,确认你的项目落在每一行的 ✅ 一侧。它是"构建这个时要注意什么?"这道面试题的标准答案表。

最终,确保你能"冷启动"回答以下六轮问题:

面试轮次问题回看章节
范围界定"你如何把用户模糊的需求变成这个系统?"11
技术深挖"讲讲你的检索/Agent 循环/评测,以及为什么这样选"03–06
系统设计"如何扩展到 10 万用户?"09–10
运维"你怎么知道它在线上还在正常工作?"08-operations/
安全"用户粘贴 Prompt 注入时发生什么?"07-security/01-prompt-injection-and-trust.ipynb
协作 / 流程"你的角色是什么,团队如何交付的?"12-case-studies-and-capstone/CAPSTONE.md

任何一个答案不扎实,对应章节的 Notebook 就是你要回去的地方。

学习路径速查:从 00 到 12 的路线

按顺序完成即可,每个 Notebook 都自带依赖安装与练习:

  1. 00–01:环境配置(00-setup/00-environment.ipynb)与模型 API 基础(Prompting、结构化输出、Tool Calling)
  2. 02–04:评测是主干——"先测量,再调优"的习惯在这里养成
  3. 03:RAG 五连:是什么、嵌入检索、混合+重排、分块、失败诊断
  4. 05:Agent 六连:从零手写循环、工具设计、护栏与预算、MCP、Skills、Harness 工程
  5. 06–07:LoRA 微调的决策边界、Prompt 注入与信任边界
  6. 08–10:LLMOps、可靠性与 MLflow、Serving 框架、推理性能、系统设计
  7. 11–12:客户工程(Scoping)与 Capstone 毕业设计

🏁最后提醒:所有 Notebook 都跑在免费的 Groq API 上(无需信用卡),LoRA 与自托管 Serving 两个 Groq 无法覆盖的主题,提供概念先行 + 可选 Colab-GPU 附录。学习是免费的,而你的 Capstone 应该读起来像一份实习经历——这就是 ai-engineer-notebooks 从第 00 章到第 12 章为你铺好的路。

【免费下载链接】ai-engineer-notebooks

Hands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.

项目地址:https://gitcode.com/gh_mirrors/ai/ai-engineer-notebooks
点击查看免费下载

相关推荐

上一篇:Juggler的LLM事务追溯详解:看清模型真正收到的系统提示词、工具定义和Token消耗
下一篇:不确定性规划方法地图:如何看懂 Robotics Tutorial 的鲁棒MPC、机会约束与POMDP全景

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

返回列表