透過實際面試的方式學習應用型 LLM 技術堆疊 — 免框架、使用免費 API,涵蓋從提示到服務、微調及紅隊基準測試。

可運行的 Colab 筆記本,專為 AI 工程師 / 前線部署工程師(FDE)技能集打造 — 在基礎模型之上建構可運行的系統 — 模型 API、RAG、評估、代理、適應、服務 — 使用原始 API,而非框架。

作為「轉職為前線部署工程師 / AI 工程師」計畫的實戰伴侶。該計畫解釋了學習內容及其原因;這些筆記本則是實際操作的地方。

轉職至 AI 工程師、FDE、應用 AI 或解決方案工程師(AI)職位的後端或全端工程師 — 儘管職稱不同,但工作內容大致相同。您能夠交付生產級程式碼;您想要的是上層的應用模型層。

從上到下進行工作。每個筆記本都是獨立的(自行安裝依賴項,從 Colab 密鑰讀取 API 金鑰),並以練習結束。

當免費的 Groq API 無法運行某個主題時(這些框架需要 GPU),筆記本會以概念優先的方式教授,並圍繞一個可選的 Colab-GPU 附錄 — 這與第 06 節的 LoRA 附錄模式相同。

當技能匯集到專案中。首先是一個案例研究 — 一個實際場景的端到端運行範例,然後是總結性專案,即您自己建構的已部署儲存庫。(章節概覽。)

總結性專案:用於放在您履歷上的已部署專案的簡介 — 一個具有服務組件和評估報告的實際儲存庫。案例研究用於學習;總結性專案用於招聘。

本地運行:pip install -r requirements.txt && pip install -e .(第二個命令安裝 aien 設定助手),export GROQ_API_KEY=... ,使用 Jupyter 打開。

免框架的 Colab 筆記本,專為 AI 工程師 / 前線部署工程師(FDE)技能集打造 — 模型 API、結構化輸出、工具呼叫、RAG、評估作為骨幹、代理(從頭開始循環、工具設計、護欄、MCP、技能)、微調與 LoRA、提示注入/安全、LLMOps 和客戶開發。運行於免費的 Groq API。