在 AI 時代駕馭網路威脅以及加強防禦

如今，網路安全世界正在經歷一場巨大的變革。人工智慧 （AI） 處於這一變更的最前沿，既是威脅也是機遇。雖然人工智慧有可能使組織能以機器速度擊敗網路攻擊，並推動威脅偵測、搜尋和事件回應方面的創新和效率，但對手可以將人工智慧作為其惡意探索的組件。對我們來說，安全地設計、部署和使用 AI 前所未有地重要。

在 Microsoft，我們正在探索 AI 的潛力，以增強我們的安全措施、解鎖新的進階保護以及編譯更好的軟體。借助 AI，我們有能力適應不斷變化的威脅，即時檢測異常情況，快速回應，以消除風險，並根據組織的需求定製防禦措施。

人工智慧還可以幫助我們克服該產業的另一個最大查問。面對全球網路安全性工作力短缺，全球大約需要 400 萬名網路安全性專業人員，AI 有可能成為縮小人才缺口和幫助防禦者提高生產力的重要工具。

我們已在一項研究中看到，無論安全性分析師的專業程度如何，Microsoft Security Copilot 都能提供幫助。在所有的工作中，參與者的準確率提高了 44%，速度提高了 26%。

在展望更安全的未來時，我們必須確保為 AI 做好安全準備，同時兼顧 AI 的優勢，因為 AI 有能力提升人類潛能，並解決我們面臨的幾項最嚴峻的挑戰。

人工智慧的未來更加安全，需要軟體工程的根本性進步。這將要求我們理解和應對人工智慧驅動的威脅，將其作為任何安全性策略的重要元件。我們必須共同努力，在公共和私營部門之間建立深入的共同作業和夥伴關係，以打擊不良行為者。

作為這項工作和我們自有安全未來專案的一部分，OpenAI 和 Microsoft 今天發佈了新的情報，詳細說明瞭威脅執行者測試和探索大型語言模型（LLM）在攻擊技術中的有用性的企圖。

我們希望這些資訊對各行各業都有用，因為我們都在努力創造一個更安全的未來。因為歸根結底，我們都是防禦者。

觀看 Cyber Signals 數位簡報，了解 Microsoft 安全性商務公司副總裁 Vasu Jakkal 針對 AI 時代的網路威脅、Microsoft 用 AI 增強安全性的方式，以及組織協助加強防禦可以採取的措施等主題，對主要威脅情報專家進行的採訪。

隨著攻擊者的積極性日益提高、愈發老練，而且資源日漸豐富，網路威脅形勢變得更具有挑戰性。威脅執行者和防禦者都在尋求人工智慧，包括 LLM，以美化其生產力，並利用可能適合他們目標和攻擊技術的可訪問平臺。

鑒於威脅形勢的快速發展，今天我們宣佈 Microsoft 指導我們行動的準則，以降低威脅執行者的風險，包括進階持續性威脅 （APT）、進階持續性操縱器 （APM），以及使用 AI 平臺和 API 的網路犯罪集團。這些準則包括識別惡意威脅執行者對 AI 的使用及行動、通知其他 AI 服務提供者、與其他利益相關者合作以及透明度。

儘管威脅執行者的動機和複雜程度各異，但他們在部署攻擊時分擔共同的任務。這些包括偵察，例如研究潛在受害者的行業、地點和人際關係；編碼，包括改進軟體腳本和惡意軟體開發；以及學習和使用人類和機器語言的協助。

通過與 OpenAI 合作，我們正在共用威脅情報，顯示檢測到的國家/地區附屬敵人（追蹤為 Forest Blizzard、Emerald Sleet、Crimson Sandstorm、Charcoal Typhoon 和 Salmon Typhoon）使用 LLM 來增強網路行動。

Microsoft 與 OpenAI 建立研究合作夥伴關係的目標是確保安全和負責任地使用 ChatGPT 等 AI 技術，堅持最高標準的道德應用，以保護社區免受潛在的濫用。

Emerald Sleet 對 LLM 的使用涉及對智庫和北韓專家的研究，以及產生可能用於魚叉式網路釣魚活動的內容。Emerald Sleet 還與 LLM 進行互動，了解已知的漏洞、技術問題疑難排解以及使用各種 Web 技術的幫助。

另一個由中國支持的組織 Salmon Typhoon，則一直在估量 2023 全年使用 LLM 來獲取有關潛在敏感話題、知名人士、區域地緣政治、美國影響力和內政資訊的有效性。與 LLM 的這種試探性業務開發既反映了其情報收集工具組的擴大，也反映了評估新興技術能力的實驗階段。

我們已採取措施破壞與這些威脅執行者相關的資產和帳戶，並圍繞我們的模型塑造成立條件圍欄和安全機制。

人工智慧驅動的欺詐是另一個危急問題。語音合成就是一個例子，其中三秒鐘的語音樣本可以訓練模型聽起來逼真，和任何人毫無二致。即使是像語音訊息問候語之類無害的語音也可以用來獲得足夠的取樣。

我們彼此互動和開展業務的方式很大程度上依賴於身分識別證明，例如識別一個人的聲音、臉部、電子郵件位址或寫作風格。

至關重要的是，我們必須了解惡意執行者如何使用人工智慧來破壞長期存在的身分識別證明系統，以便我們能夠處理複雜的欺詐案例和其他模糊身分識別的新興社交工程威脅。

人工智慧還可用於幫助公司破壞欺詐企圖。雖然 Microsoft 已中止與巴西一家公司的業務開發，但我們的人工智慧系統偵測到該公司試圖重建自己以重新輸入我們的生態系統。

該組織不斷試圖混淆其資訊，隱瞞擁有者根源，並重新進入，但我們的人工智慧檢測使用了近十幾個風險旗標來標記欺詐公司，並將其與先前識別的可疑行為聯繫起來，從而阻止了其企圖。

Microsoft 承諾負責任的人類為主導的 AI，其特點是隱私和安全，並由人類提供監督、評量訴求以及解釋政策和法規。

傳統工具已無法跟緊網路罪犯構成的威脅。最近網路攻擊的速度、規模和複雜性不斷提高，需要一種新的安全性方法。此外，鑒於網路安全性工作力短缺，以及網路威脅的頻率和嚴重性不斷增加，橋接這一段技能差距是當務之急。

AI 對防禦者大有助益。最近一項針對 Microsoft Security Copilot (目前處於客戶預覽版測試階段) 的研究表示，無論安全性分析師的專業水準如何，在識別攻擊者使用的指令碼、建立事件報告和識別適當補救步驟等常見工作中，都提高了速度和準確性¹。