AI 安全專家 職業訓練課程
AI 安全專家 (AI Safety Expert) 職業訓練課程 — 三小時精華班
課程簡介：
隨著 AI 廣泛應用，安全風險如模型中毒、幻覺輸出、隱私洩漏成為企業首要挑戰。AI 安全專家專責識別、評估與緩解 AI 系統的安全威脅。本課程於三小時內濃縮攻擊防禦技術、倫理合規與安全工程實務，帶領學員掌握紅隊測試、模型防護與治理框架，適合希望確保 AI 產品安全部署的技術與管理專業人士。
課程特色
-
攻防實戰導向：結合最新 AI 攻擊技術與防禦策略
-
法規合規整合：涵蓋 GDPR、AI Act 等國際標準
-
企業風險思維：強調商業影響評估與治理流程
課程時長
共 3 小時 (180 分鐘)
理論講解 40%、攻防實作 45%、案例討論 15%
課程大綱
第一階段：AI 安全專家角色與威脅全景 (30 分鐘)
-
職能定位：紅隊測試、安全工程、倫理審核，與傳統資安差異
-
AI 安全威脅分類：資料中毒、對抗樣本、提示注入、模型竊取
-
攻擊全生命週期：訓練階段、推理階段、供應鏈風險
-
法規與標準：EU AI Act、高風險 AI 系統認證、ISO 42001
第二階段：常見 AI 攻擊技術與防禦實作 (60 分鐘)
-
資料與模型攻擊：
-
資料中毒 (Poisoning)、後門攻擊 (Backdoor) 原理與偵測
-
對抗樣本生成 (FGSM、PGD) 與魯棒性訓練
-
-
生成式 AI 攻擊：
-
越獄提示 (Jailbreak)、幻覺誘導、拒絕服務 (DoS)
-
防禦策略：輸入驗證、輸出過濾、權重驗證
-
-
實作練習：使用 Foolbox 生成對抗樣本並測試模型魯棒性
第三階段：安全工程框架與部署實務 (45 分鐘)
-
安全開發生命週期 (AI SDL)：威脅建模、紅隊測試流程
-
模型安全防護：差分隱私、聯邦學習、模型加密 (Homomorphic Encryption)
-
監控與應變：AI 安全儀表板、事件回應流程、持續監控
-
合規審核：風險評估矩陣、倫理影響評估報告生成
-
簡易實作：設計 AI 安全檢查清單與防護配置
第四階段：職涯策略與治理藍圖 (30 分鐘)
-
進階領域路徑：AI 安全研究、紅隊服務、CISO 轉型
-
工具生態：Adversarial Robustness Toolbox、Guardrails AI、NeMo Guardrails
-
作品集建構：攻防報告、安全架構設計、紅隊測試案例
-
Q&A 與 AI 安全事件實戰經驗交流
預期學習成果
完成課程後，學員將能：
-
全面掌握 AI 安全威脅類型與攻防技術
-
設計並實施模型安全防護與紅隊測試流程
-
建立企業 AI 安全治理框架與合規審核機制
-
建構專業 AI 安全專家作品集與職涯競爭優勢
**以上AI課程由知名香港AI教學先行者 「香港AI學院」 提供課程內容及技術的支援，以確保 「AI課程」 高性價比的品質水平。
