有越來越多的發展 人工智能,這種AI的複雜性每次都在增加,應用領域也在不斷增加。 它已被用於衛生部門,公共行政部門,研究,服務等。 但是,這些算法在安全性方面並不是萬無一失的,它們也有潛在的威脅。 實際上,隨著AI的發展,越來越多的威脅被發現。 這就是為什麼諸如反擬合之類的工具如此重要的原因。
由於它們是非常關鍵的系統,因此需要安全的人工智能係統。 為此,一系列的審計標準和工具 能夠更輕鬆地對其進行審核。 我在上一段中提到的Microsoft工具就是一個例子。
微軟已經開發了該工具,它將大大簡化工作,並且已經在開源許可(MIT許可)下並通過其GitHub平台進行了開發,以便所有希望使用該工具的人都可以使用它,並且能夠參與其發展。 對抗 它將允許開發人員在開發的早期階段測試人工智能係統的安全性,從而確保沒有關鍵漏洞。
如果你有興趣 了解她,您可以訪問 GitHub上的存儲庫 從此鏈接。 您可以在此處找到源代碼,信息,也可以在多個平台上下載並對其進行測試。 另外,由於它是用Python編寫的,因此您也可以在Linux中使用它而不會出現問題。
該工具誕生於Microsoft內部,因為他們需要評估自己的系統。 人工智能和機器學習 尋找漏洞。 它最初用於測試系統,但現在也可以在AI開發階段使用。
正如您在網站上看到的那樣, 您將需要安裝 蟒蛇蟒 在本地可以使用Python腳本。 另一個選擇是從Web瀏覽器通過Azure Shell使用它。