攻擊機器學習(ML)應用程式
攻擊應用系統的行為,而非直接對 ML 模型進行「正面攻擊」,也會對 ML 模型造成影響。每個 ML 模型應用程式都有在主要的 CPU 上執行的部分程式碼。接收和準備資料以輸入到 ML 模型,或對 ML 模型輸出進行後處理時,都會受到輸入操控攻擊和輸出完整性攻擊 (OWASP 前 10 名)。未防止逆向工程和/或修改的應用程式很容易受到這些威脅。
解決方案
先進的軟體保護工具強化了應用程式的逆向工程和修改能力,以防止這些威脅。這些工具存在於高階版權保護和授權系統中。
應用案例:網路/安全性
為了使機器學習模型能够準確識別網路入侵和數據洩漏,輸入數據保持不變以及警報標記機制必須正常運作至關重要。 當輸入(例如操控輸入操作)和輸出邏輯(例如篡改警報標誌)被操縱時,存在惡意活動被忽視的風險。 攻擊者可以透過在指定日期和時間隱藏觸發警報來逃避檢測。
三十年來,Thales 一直是企業公司尋找合作夥伴及平台來保障軟體安全及獲利的首選。依靠我們的專業知識和 Sentinel 解決方案,您可以安心自由的創新。
參考來源 : https://cpl.thalesgroup.com/blog/software-monetization/how-to-protect-your-machine-learning-models
Sentinel資訊安全保護鎖系列,歡迎您申請試用
https://www.pronew.com.tw/application_suite.php
正新電腦 http://www.pronew.com.tw/ 04-24738309
沒有留言:
張貼留言