AI 安全專家（AI Safety Expert）

AI職業名稱

AI 安全專家專注防範 AI 系統的安全風險，包括模型越獄、對抗性攻擊、資料中毒與自主智能體失控。他們設計防禦機制、執行紅隊測試並建立安全監控系統，確保 AI 在高風險環境（如金融交易、醫療診斷、自動駕駛）中穩定可控，是「AI 安全防線」的技術守護者。

紅隊測試與越獄防禦
- 設計越獄提示詞（Jailbreak）、對抗性輸入，測試 LLM 安全邊界。
- 建立多層防禦：提示詞過濾、輸出守門員（Guardrail）、權重保護。
對抗性攻擊防禦
- 研究 FGSM、PGD、CW 等對抗性攻擊對影像、文字模型影響。
- 實作對抗訓練、輸入驗證、防禦蒸餾提升模型魯棒性。
資料中毒與供應鏈安全
- 檢測訓練資料中毒（Backdoor、Clean Label Poisoning）。
- 建立資料譜系追蹤、供應鏈審計、模型完整性驗證（Hash 檢查）。
自主智能體安全
- 設計 Agent 安全沙箱、權限控制、緊急停止機制。
- 監控多代理協作中的意外湧現行為與目標偏移。
隱私與模型竊取防護
- 防範會員推斷攻擊（Membership Inference）、模型反轉（Model Inversion）。
- 實作差分隱私、聯邦學習、同態加密保護訓練資料。
安全監控與事件應變
- 建立實時安全監控儀表板，異常行為自動警報。
- 制定 AI 安全事件應變流程（Incident Response），快速隔離受損模型。
安全架構設計
- 設計安全 MLOps 管線：安全掃描 → 威脅建模 → 滲透測試 → 部署審計。
- 建立安全基準（Benchmark）與持續驗證流程。

中階（5-8年經驗）：HK$960,000 - HK$1,680,000 /年
高階（8-12年經驗）：HK$1,680,000 - HK$2,880,000 /年
專家級（12年以上經驗）：HK$2,880,000 - HK$4,800,000+ /年
（視金融安全、自動駕駛、国防等高安全需求產業，以及紅隊競賽經驗而定；包含高額 RSU，屬 AI 安全領域頂薪技術崗位。）

AI 安全攻防技術
- 紅隊工具（Garuk、LLMFuzzer）、對抗攻擊框架（Adversarial Robustness Toolbox）。
- 越獄技術（DAN、GCG）、防禦模型（Guardrail ML、NeMo Guardrails）。
威脅建模專業
- STRIDE、PASTA、MITRE ATLAS（AI Threat Library）威脅框架。
- 攻擊樹分析、安全需求工程。
隱私保護技術
- 差分隱私（DP-SGD）、同態加密、聯邦學習、多方安全計算。
- 會員推斷防禦、模型竊取檢測。
程式安全與 DevSecOps
- 安全程式設計（OWASP Top 10）、容器安全、Kubernetes RBAC。
- 安全 CI/CD（Snyk、Trivy）、SBOM 生成與供應鏈審計。
監控與事件應變
- SIEM 系統整合、異常檢測（Isolation Forest）、自動化應變。
- 安全事件分類、根因分析、事後檢討流程。