Model Stealing（模型竊取）是一種針對機器學習模型的安全攻擊，攻擊者通過向目標模型發送大量查詢，並根據模型輸出的結果推測模型的內部參數、架構或行為，進而複製或仿製原模型。
Model Stealing的定義：• 攻擊者無需訪問模型的內部結構（黑盒攻擊），只利用模型的查詢輸出來重建接近原模型性能的副本。
• 透過系統化的查詢和數據收集，攻擊者可以訓練一個替代模型（shadow model）模仿目標模型行為。
• 可能損害模型所有者的知識產權，並被用於繼續發起其他攻擊如對抗性攻擊、會員推斷攻擊等。
攻擊方式：
• 基於查詢的攻擊：向模型大量發送精心設計的輸入，收集輸出用以推測模型特徵。
• 模型反演攻擊：利用模型輸出反推模型參數或架構資訊。
• 會員推斷攻擊：判斷某數據是否用於模型訓練。
影響與風險：
• 盜用昂貴訓練的模型，降低競爭力。
• 洩露敏感訓練數據隱私。
• 提升攻擊者發起更為複雜攻擊的能力。
防禦策略：
• 限制API的查詢頻率和範圍，避免信息過度泄露。
• 對模型輸出做隨機化或模糊處理。
• 採用對抗訓練提升模型對盜用的魯棒性。
• 監控異常訪問行為並及時響應。
簡單比喻：
Model Stealing就像有人不停地詢問你問題，並根據你的回答模仿成你的對話風格，最終仿製出你本人。
總結：
Model Stealing是通過分析模型回應查詢，非法複製機器學習模型的攻擊，對模型所有權和數據保護帶來嚴重威脅，需要多層防禦措施加以應對。Model Stealing（模型竊取）是一種機器學習安全攻擊，攻擊者透過向目標模型發出大量查詢，並分析其輸出結果，推測模型的參數、架構或行為，從而復刻出功能相似的副本模型。這通常不需獲得模型內部資訊，是一種黑盒攻擊。
主要類型包括基於查詢的攻擊、模型反演攻擊和會員推斷攻擊。模型竊取可能導致知識產權被盜用、訓練數據隱私洩漏，並使攻擊者能進一步發起更多攻擊。
防禦措施包括限制API查詢頻率和範圍、加入輸出隨機化、對抗訓練和異常行為監控。
簡單比喻，模型竊取就像有人通過不停問問題，模仿你的回答風格來複製你。
總結：模型竊取是分析模型輸出來非法複製模型的攻擊，對AI安全構成威脅，需多層防護。
