有越來越多的發展 人工智能，這種AI的複雜性每次都在增加，應用領域也在不斷增加。 它已被用於衛生部門，公共行政部門，研究，服務等。 但是，這些算法在安全性方面並不是萬無一失的，它們也有潛在的威脅。 實際上，隨著AI的發展，越來越多的威脅被發現。 這就是為什麼諸如反擬合之類的工具如此重要的原因。
由於它們是非常關鍵的系統，因此需要安全的人工智能係統。 為此，一系列的審計標準和工具 能夠更輕鬆地對其進行審核。 我在上一段中提到的Microsoft工具就是一個例子。
微軟已經開發了該工具，它將大大簡化工作，並且已經在開源許可（MIT許可）下並通過其GitHub平台進行了開發，以便所有希望使用該工具的人都可以使用它，並且能夠參與其發展。 對抗 它將允許開發人員在開發的早期階段測試人工智能係統的安全性，從而確保沒有關鍵漏洞。
如果你有興趣 了解她，您可以訪問 GitHub上的存儲庫 從此鏈接。 您可以在此處找到源代碼，信息，也可以在多個平台上下載並對其進行測試。 另外，由於它是用Python編寫的，因此您也可以在Linux中使用它而不會出現問題。
該工具誕生於Microsoft內部，因為他們需要評估自己的系統。 人工智能和機器學習 尋找漏洞。 它最初用於測試系統，但現在也可以在AI開發階段使用。
正如您在網站上看到的那樣， 您將需要安裝 蟒蛇蟒 在本地可以使用Python腳本。 另一個選擇是從Web瀏覽器通過Azure Shell使用它。