2024黑帽大會最熱門的九大AI網路安全工具
在2024年的黑帽大會（Black Hat 2024）上，AI驅動的網路安全工具和技術成為焦點，引領了網路安全產業新趨勢。眾多安全廠商和新創公司展現了他們的最新成果，利用生成式AI來管理風險、偵測並對抗網路犯罪，保障企業安全。以下是大會上一些備受矚目的AI驅動網路安全產品和服務：
Apiiro：軟體開發設計階段的風險智慧檢測
Apiiro推出了一項名為「設計階段的風險偵測」的AI驅動功能，旨在分析功能請求，以在應用程式開發的早期階段識別風險並啟動安全審查或威脅模型。此功能依托Apiiro的專有LLM，使應用程式安全實踐者能夠在編碼前的設計階段緩解安全性和合規性風險，從而節省時間、減少重工並加速安全軟體交付。主要風險分析領域包括架構設計、敏感資料處理、使用者權限、生成式AI技術和第三方整合。
SentinelOne：Purple AI、CIEM、xSPM和SIEM
SentinelOne在其Singularity平台中新增了一系列功能，旨在利用生成式AI技術增強端點、身分識別和雲端環境的安全性。新功能包括Purple AI，它提供自然語言警報摘要和查詢支持，幫助分析師簡化警報。雲端基礎設施權限管理（CIEM）可協助控制對雲端資源的存取權。此外，SentinelOne還推出了擴展安全態勢管理（xSPM）和AI驅動的SIEM，以提供即時洞察和可擴展的安全解決方案。
Cymulate：AI Copilot
Cymulate宣布推出其AI Copilot，這是一款生成式AI解決方案，旨在啟用針對即時威脅的安全控制。 AI Copilot引入了動態攻擊規劃器，讓用戶可以透過複製和貼上威脅通告、新聞文章和安全研究發現中的URL或內容來執行自訂威脅評估。該功能旨在快速識別和修復安全漏洞，減少威脅評估所需的時間和專業知識。 AI Copilot也產生客製化的產品文件並簡化故障排除，優化安全驗證流程並解放IT資源。
Cequence：生成式AI驅動的統一API保護（UAP）
Cequence對其統一API保護平台進行了多項更新，重點是安全使用生成式AI應用程式和大語言模型。主要增強功能包括針對OWASP LLM十大威脅的測試套件、自動檢測和阻止AI機器人活動、用於可視化API流的流程圖以及針對全面API發現的新整合。該平台還在本地處理API流量，提高效率和隱私，並提供針對API網關和基礎設施的攻擊面偵測。
RAD Security：AI驅動的事件調查
RAD Security推出了其AI驅動的事件調查功能，旨在透過行為檢測和回應來提高雲端安全性。此方法透過結合LLM驅動的調查和行為檢測，減少誤報並提高事件評估的準確性。 RAD Security的雲端偵測和回應（CDR）解決方案可建立行為基線，以偵測零時差攻擊，並透過即時身分和基礎設施情境豐富檢測。新功能包括Amazon EKS外掛程式、自動AI驅動的調查、用於事件導航的發現中心和更新的RAD開源目錄，以提高偵測能力。
Code42：Incydr支援生成式AI的資料外洩防護
Mimecast旗下的Code42，推出了其Incydr解決方案的升級版，以防止資料外洩到生成式AI工具。 Incydr的新資料視覺化和PRISM系統可以幫助安全團隊定位和回應資料向ChatGPT和Google Gemini等生成式AI工具的移動。該解決方案包括檢測和阻止風險活動、為員工提供教育視頻，並即將支援ChatGPT桌面應用程式。
Legit Security：AI安全指揮中心
Legit Security推出了AI安全指揮中心，旨在為安全團隊提供一個控制台，以在開發環境中實現AI可見性和保護。此儀表板將有助於緩解在應用程式碼中使用AI模型的風險，提供AI模型清單的集中可見性，進行風險關聯和優先排序，並擴展ASPM控制以包括AI安全態勢管理。 Legit Security也宣布加入安全AI聯盟（CoSAI），以推動軟體開發中全面的AI安全措施。
Balbix：對話式AI安全助手
在Black Hat USA 2024上，Balbix推出了BIX，這是一款旨在簡化網路風險和曝光管理的對話式AI助理。 BIX旨在透過根據使用者角色和過去的互動提供個人化、情境相關的建議來簡化風險管理。 BIX具有行動存取、即時更新和與現有網路安全和IT系統整合的功能，有助於安全團隊進行決策和跨通路溝通。 BIX利用基於RAG的大型語言模型和Nvidia硬體的多代理架構，旨在將複雜任務分解為可管理的子任務，以提高營運效率並減少回應時間。
Orca Research：AI Goat
Orca Research推出了一個開源AI安全學習環境－AI Goat，旨在解決OWASP十大ML風險。該工具可在Orca Research的GitHub儲存庫中取得，使用Terraform建立了一個易受攻擊的AI環境，具有一系列威脅和漏洞，用於安全培訓和教育場景。該工具旨在幫助安全專業人員和滲透測試人員理解和測試AI特定漏洞，並提高防禦此類攻擊的能力。在Black Hat USA 2024上，OWASP ML安全十大專案的負責人Shain Singh強調，AI Goat透過模擬現實世界的漏洞和錯誤配置，增強了對AI風險的理解，並幫助組織更好地防範潛在的AI攻擊。