第四階段:深度學習與神經網路
Hugging Face 提供的大型語言模型和自然語言處理免費課程,涵蓋 Transformers、資料處理、模型微調等完整技術棧
Hugging Face LLM 課程詳細介紹
課程概述
這是一門由 Hugging Face 提供的大型語言模型(LLM)和自然語言處理(NLP)課程,專注於使用 Hugging Face 生態系統的函式庫進行學習和實踐。
課程特色
- 完全免費:無廣告,無付費內容
- 實踐導向:結合理論與實踐,提供程式碼範例
- 開源精神:所有內容在 Apache 2 許可證下發布
- 多語言支援:支援多種語言版本的翻譯
- 社群驅動:活躍的社群支援和討論
課程結構
第1-4章:🤗 Transformers 函式庫基礎
- Transformer 模型的運作原理
- 如何使用 Hugging Face Hub 中的模型
- 模型微調技術
- 在 Hub 上分享成果
第5-8章:資料處理與經典NLP任務
- 🤗 Datasets 和 🤗 Tokenizers 基礎
- 經典 NLP 任務處理
- LLM 技術深入
- 常見語言處理挑戰的解決方案
第9章:模型部署與展示
- 建構和分享模型演示
- 在 🤗 Hub 上展示應用
- 模型視覺化技術
第10-12章:進階LLM主題
- 進階微調技術
- 高品質資料集策劃
- 推論模型建構
- 最新LLM發展動態
核心技術堆疊
主要函式庫
- 🤗 Transformers: 核心模型函式庫
- 🤗 Datasets: 資料處理函式庫
- 🤗 Tokenizers: 分詞器函式庫
- 🤗 Accelerate: 加速訓練函式庫
- Hugging Face Hub: 模型和資料集中心
支援的框架
- PyTorch
- TensorFlow
- JAX
學習環境設定
方法1:Google Colab
# 安裝基礎版本
!pip install transformers
# 安裝完整版本(推薦)
!pip install transformers[sentencepiece]
方法2:Python虛擬環境
# 建立專案目錄
mkdir ~/transformers-course
cd ~/transformers-course
# 建立虛擬環境
python -m venv .env
# 啟用虛擬環境
source .env/bin/activate
# 安裝依賴項
pip install "transformers[sentencepiece]"
課程要求
技術要求
- Python 基礎:需要良好的 Python 程式設計知識
- 深度學習基礎:推薦先完成入門級深度學習課程
- 框架知識:不要求 PyTorch 或 TensorFlow 經驗,但有一定了解會有幫助
推薦先修課程
課程作者團隊
核心作者
- Abubakar Abid: Gradio 創辦人,史丹佛博士
- Ben Burtenshaw: NLP 博士,兒童故事生成研究
- Matthew Carrigan: 都柏林三一學院博士後研究員
- Lysandre Debut: 🤗 Transformers 核心開發者
- Sylvain Gugger: 《Deep Learning for Coders》共同作者
- Lewis Tunstall: 《Natural Language Processing with Transformers》共同作者
- Leandro von Werra: 《Natural Language Processing with Transformers》共同作者
學習時間安排
- 每章時長:1週
- 每週學習時間:6-8小時
- 整體進度:可依個人步調調整
資源與支援
學習資源
- 互動式筆記本:Google Colab 和 Amazon SageMaker Studio Lab
- 程式碼儲存庫:huggingface/notebooks
- 課程論壇:Hugging Face forums
多語言支援
課程提供以下語言版本:
- 中文(簡體)
- 法語
- 德語
- 西班牙語
- 日語
- 韓語
- 越南語
- 等多種語言
實踐專案
專案類型
- 文字分類
- 文字生成
- 問答系統
- 情感分析
- 命名實體識別
- 機器翻譯
- 文字摘要
實踐平台
- Google Colab(推薦初學者)
- 本地環境
- Hugging Face Spaces
證書與認證
- 目前暫無正式認證
- Hugging Face 正在開發認證專案
- 完成課程後可獲得專案作品集
後續學習建議
完成本課程後,推薦繼續學習:
- DeepLearning.AI's Natural Language Processing Specialization
- 傳統 NLP 模型:樸素貝葉斯、LSTM 等
- 更進階的 Transformer 架構研究
課程價值
這門課程特別適合:
- 想入門 LLM 開發的工程師
- 需要在產品中整合 AI 能力的開發者
- 希望了解最新 NLP 技術的研究人員
- 想使用開源工具建構 AI 應用的團隊
透過這門課程,學習者將掌握從基礎概念到實際應用的完整 LLM 開發技能棧。