AI職位工種: 邊緣 AI 優化專家 (Edge AI Optimization Engineer)
按此回到 「AI職位工種列表」

邊緣 AI 優化專家 (Edge AI Optimization Engineer)

AI職業名稱

邊緣 AI 優化專家（Edge AI Optimization Engineer）

 

工作概要

邊緣 AI 優化專家專精將大型 AI 模型壓縮部署到資源受限的邊緣設備（手機、IoT、Jetson、Raspberry Pi），實現毫秒級即時推論。他們透過量化、剪枝、蒸餾、NAS 等技術將模型大小壓縮 10-100 倍、推理速度提升 5-20 倍，是「雲端訓練、邊緣部署」架構的關鍵工程師，廣泛應用於自動駕駛、無人機、智慧攝影機、智能家居。

 

主要工作內容

  • 模型壓縮與量化

    • 權重量化（INT8、INT4、INT2）、激活量化、後訓練量化（PTQ）、量化感知訓練（QAT）。

    • 混合精度推理、動態量化、逐通道量化提升精度。

  • 模型剪枝與結構優化

    • 權重剪枝（Magnitude、Lotto）、結構化剪枝（通道、Filter）、神經架構搜尋（NAS）。

    • 稀疏推理加速、剪枝後微調恢復精度。

  • 知識蒸餾與學生-教師模型

    • 設計教師-學生架構，蒸餾大模型知識到輕量模型。

    • 特徵蒸餾、Soft Label、Attention Transfer、多階段蒸餾。

  • 硬體特定優化

    • NVIDIA TensorRT、Intel OpenVINO、Google Edge TPU、Apple Core ML 部署優化。

    • ARM NEON、RISC-V 向量指令、NPU 加速器程式設計。

  • 即時推理管線優化

    • 批次處理優化、管線並行、Kernel Fusion、記憶體佈局優化。

    • 低功耗推理、熱管理、電池壽命優化。

  • 跨平台部署與測試

    • Android NNAPI、iOS ANE、Windows ML、Linux 邊緣部署。

    • 真機壓力測試、功耗測試、熱成像分析、場景適應性驗證。

預計薪水（參考）

  • 初階（0-3年經驗）：HK$480,000 - HK$780,000 /年

  • 中階（3-6年經驗）：HK$780,000 - HK$1,320,000 /年

  • 高階（6年以上經驗）：HK$1,320,000 - HK$2,400,000+ /年
    （視自動駕駛、無人機、智能家居等硬體產業，以及模型壓縮比與推理速度提升成果而定；包含專案獎金與 RSU，邊緣 AI 部署為硬體生態最高薪技術崗位。）

必備技能與能力

  • 模型優化技術棧

    • TensorRT、ONNX Runtime、OpenVINO、TVM、NCNN 跨平台部署。

    • Post-Training Quantization、Quantization-Aware Training、Pruning、NAS。

  • 硬體加速器程式設計

    • NVIDIA Jetson（Orin、Xavier）、Coral TPU、Hailo-8、Sipeed。

    • ARM Compute Library、Qualcomm SNPE、Apple Neural Engine。

  • 深度學習框架優化

    • PyTorch 2.0 TorchScript、TensorFlow Lite Micro、ONNX 格式轉換。

    • TVM、XLA 圖形優化、Operator Fusion。

  • 嵌入式系統開發

    • C/C++ 低階優化、CUDA、OpenCL、Assembly 內聯優化。

    • RTOS（FreeRTOS、Zephyr）、Linux Yocto 客製化。

  • 效能分析工具

    • NVIDIA Nsight、TensorRT Profiler、Perf、Valgrind 效能剖析。

    • 功耗分析（powerstat）、熱管理監控、即時調試。

常見工作領域與應用範例

  • 自動駕駛與 ADAS

    • 車載 YOLO 即時偵測、端到端感知模型邊緣部署、交通標誌辨識。

  • 智慧安防攝影機

    • 人臉辨識、異常行為檢測、車牌辨識 INT8 推理。

  • 無人機與機器人

    • 即時避障、SLAM、目標追蹤 Jetson 部署。

  • 智能家居設備

    • 語音喚醒、動作偵測、智慧攝影機本地推理。

  • 工業物聯網

    • 設備故障預測、品質檢測、預測維護邊緣分析。

典型職涯路徑

  • 入門職位

    • 嵌入式工程師、電腦視覺工程師、硬體加速工程師。

  • 中階職位

    • 邊緣 AI 工程師、模型部署工程師、硬體 AI 優化工程師。

  • 高階職位

    • 資深邊緣 AI 優化專家、邊緣 AI 架構師、首席部署工程師。

適合什麼樣的人？

  • 效能極致追求者，享受將 GB 級模型壓縮到 MB 級的挑戰。

  • 軟硬整合高手，熟悉 ARM、GPU、NPU 等異構計算架構。

  • 低階程式設計能力強，能寫 C/C++ 手優化內核與 Assembly。

  • 真機調試經驗豐富，擅長功耗、散熱、穩定性極限優化。