What You Will Learn!
- 了解如何使用 Python 為 AI 聊天機器人設計和開發 LLM 程式
- 了解如何使用 Hugging Face 部署 LLM 程式
- 了解如何使用現代 CI/CD 管道和 GitHub 測試 LLM 後端 API
- 透過實際的 LLM 後端專案來練習這些實用技能
Description
課程緣起
隨著人工智慧技術的迅速發展，越來越多的系統與應用程式開始採用大型語言模型（LLM）作為其核心的技術之一。本課程旨在提供一個從零開始到精通的指南，教授學員如何使用Python設計和開發一個簡易的LLM程式。透過本課程，學員將學習如何使用現代的CI/CD pipeline from GitHub 進行LLM後端程式測試，並使用Hugging Face Space 部署程式。
本課程針對希望為自己的應用程式建立一個基於LLM的聊天機器人的軟體工程師和開發人員。需要具備基本的Python知識。參與者需要擁有Hugging Face 訂閱、GitHub 帳戶、OpenAI API 訂閱、Visual Studio Code、Python 3.9或更高版本以及安裝了Pip。
本課程涵蓋了多個主題，包括人工智慧和大型語言模型的基礎知識，使用FastAPI構建LLM後端，設置開發環境，使用Docker進行容器化，使用GitHub Actions實現CI/CD流程，以及使用狀態頁面監控人工智慧應用程式。完成本課程後，學員將掌握開發和部署LLM後端的必要技能，以應用於聊天機器人或其他專案中。
課程核心特色
清楚介紹課程主題：從零開始到精通，教授學員如何使用Python設計和開發一個強大的LLM後端。
清楚介紹課程目標與學習目的，說明學生能夠習得的技能或實際做出的作品：學習如何使用現代的CI/CD pipeline和GitHub Action 測試LLM後端等等。
課程單元規劃
簡述課程單元架構，並描述各單元教學重點：介紹AI和大型語言模型（LLM）、介紹FastAPI以及為什麼它適合用於建立LLM後端、設置帳戶和開發環境。
清楚說明教學方式：投影片講課、螢幕錄製操作畫面、示範等。
清楚說明課程內容設計：觀念建立、理論或心法、操作技術、範例剖析、實作練習等。
提供專有名詞解釋以符合學員所需背景知識。
關於Mark 講師
Mark 是來自於台灣的研究工程師。 他是量子人工智慧和人工智慧相關領域的研究員，與臺灣大學和其他研究機構合作，設計新穎的量子深度學習方法來實現量子機器學習實用性。 同時，他也是一位經驗豐富的全端工程師，擁有 Next.js 前端和用於產生 AI 工作負載的 Python 後端開發，並多次擔任臺大人工智慧應用社的講師。
Who Should Attend!
- 想要為其應用程式開發 LLM 後端的軟體工程師
- 開發人員希望開發一個由 LLM 驅動的聊天機器人
- 想要引進生成式 AI 解決方案的 IT 經理
- 對生成人工智慧技術有興趣的電腦科學學生