F5 推出AI網關，管理並保護快速成長的AI流量和應用需求

F5日前宣布推出搶先體驗版F5 AI網關（AI Gateway），以簡化企業在推動AI部署過程中應用、API和大語言模型（LLMs）間的互動。這款強大的容器化解決方案能夠優化效能、可觀測性和保護能力，從而顯著降低成本。透過與F5的產品組合深度集成，AI網關為安全和營運團隊提供了採用 AI 服務的無縫途徑，以大幅提升資料輸出品質並帶來卓越的使用者體驗。
根據 F5 發布的《人工智慧應用策略現況報告》顯示，75% 的企業正在部署AI。與眾多現代應用程式一樣，AI服務主要透過 API 進行交付和使用。然而，企業在設計和擴展支援AI的應用和服務時，卻面臨更多額外挑戰。

例如，高效運作需要密切監控GPU運算成本、系統反應速度等日益重要的指標，同時也需應對不斷湧現的合規性要求。

F5首席創新長Kunal Anand表示，「LLM正在為用戶打造全新的生產力水平，並提升用戶體驗，但它們同時也需要在推理階段進行監督、深度檢查，並防禦新型威脅。通過滿足這些新要求並與F5值得信賴的API流量管理解決方案集成，我們將幫助客戶在日益複雜的威脅環境中，自信且高效地部署 AI 驅動的應用。」


現實世界中的AI解決方案需要在整個資料生態系統中優化請求、回應和快速互動。 F5 AI網關透過觀察、最佳化並保護大量使用者和自動化變量，從而降低成本、減少惡意威脅並確保合規性。

F5 AI網關旨在於客戶及其應用的 AI 發展中找到最佳契合點。此網關可部署在任何雲端或資料中心，並原生整合F5 NGINX及BIG-IP平台，從而在傳統、多雲或邊緣部署中充分利用F5領先的應用安全和交付服務。此外，此解決方案的開放可擴展性將允許企業開發和客製化由F5 AI網關執行的可程式安全性和控制。這些流程可輕鬆更新並動態應用，以實現對安全性策略和合規要求的即時回應。



IDC人工智慧和自動化高級總監Shari Lava表示，“AI驅動的應用將在未來幾年成為幾乎所有企業和組織的基石。F5在其應用堆疊服務中引入AI網關，為客戶提供了在構建 AI 應用架構方面更大的靈活性，同時實現更強的保護和模型優化。”

F5 AI網關可為用戶帶來以下價值：

·透過自動偵測和修復提供安全性和合規性策略實施，以因應OWASP發布的大語言模型應用程式十大風險；

·利用語意快取卸載LLM中的重複任務，提升使用者體驗並降低營運成本；

·簡化整合流程，讓開發人員得以專注於建立AI驅動的應用，而非管理複雜的基礎架構；


優化本地和第三方LLM的負載平衡、流量路由和速率限制，以維持服務可用性並提升效能；

·提供單一 API 接口，供開發人員用於存取他們選擇的AI模型。

WorldTech IT首席技術長Austin Geraci表示，「F5 的AI網關是我們AI策略中不可或缺的一部分。借助該技術，我們的客戶能夠開發內部和外部的AI應用，這些應用能夠處理大量查詢，而不降低站點和應用性能。F5 提供的領先應用安全和交付能力，可加速大規模AI體驗。透過採用F5 AI網關，僅語義快取和智慧流量路由即可顯著降低成本，同時F5服務的統一性也為客戶節省了數百小時的整合工作。