SCADE Vision是ANSYS公司與美國卡內基梅隆大學聯合開發的AI感知算法驗證套件，基于云端部署的后臺搜索引擎和網絡前端人機界面的綜合分析，有效降低AI感知算法的驗證效率并快速定位AI感知算法的潛在缺陷。
圖 1基于SCADE Vision的主動學習框架
基于SCADE Vision的主動學習框架要求用戶以經過充分訓練的感知算法模型作為輸入，針對成熟的感知算法模型發現有助于提升感知算法模型安全性的典型樣本，這類樣本代表容易受到人為攻擊、外部環境和算法本身影響的系統運行場景（SCADE Vision稱之為邊界案例）?；赟CADE Vision的主動學習框架的主要優勢包括：
1.加快模型的訓練速度
2.提高樣本不均勻時的模型精度
3.降低噪聲干擾
圖 2 SCADE Vision技術架構
SCADE Vision選擇引擎由SCADE Vision分析器和SCADE Vision邊界案例搜索器兩部分組成，SCADE Vision邊界案例搜索器負責搜索更有價值的邊界案例數據樣本，SCADE Vision分析器負責邊界案例樣本潛在危害的根本原因（觸發事件）。
ANSYS SCADE Vision Analyzer
SCADE Vision分析器是一個基于網絡的用戶界面，支持用戶以原始數據、網絡模型為輸入自動獲取感知算法模型的邊界案例，并以支持用戶基于預定義或自定義觸發事件列表定位邊界案例的根本原因。SCADE Vision的分析流程遵循以下步驟：
• 連接待測模型
SCADE Vision分析器是待測試系統（感知軟件）加載到SCADE Vision云端的端口，待測試系統一般為用于目標檢測的卷積神經網絡模型。SCADE Vision分析器支持TensorFlow模型的加載，TensorFlow是目前用于卷積神經網絡開發流行的深度學習開源框架。
圖 3 待測試系統列表
• 提交原始視頻
SCADE Vision分析器支持原始視頻文件上傳到SCADE Vision云端，支持MAP4，AVI和MOV三種視頻數據格式。
圖 4原始視頻列表
• 觸發事件分析
完成測試后測試結果被上傳到SCADE Vision數據庫，SCADE Vision分析器界面對測試結果進行圖形化顯示。
圖 5 SCADE Vision分析界面
• 生成安全報告
安全報告是一份SCADE Vision識別出的觸發事件的整體性總結，其目的是為系統安全分析人員對系統工程和軟件開發團隊如何提出安全需求提供指導。
圖 6 SCADE Vision安全報告生成
ANSYS SCADE Vision Edge Case Finder
SCADE Vision Edge Case Finder邊界用例搜索器支持AI感知算法模型的缺陷自動檢測，基于原始攝像頭數據不依賴于昂貴的標簽樣本，有效降低數據標注和真實運行環境的測試成本；基于原始攝像頭數據自動生成對抗樣本，通過缺陷檢測和假陰性檢測算法定位潛在缺陷，有效提升提升AI感知算法模型的安全性。
.png)
.png)
.png)
.png)
.png)
.png)