F5搭載NVIDIA BlueField-3 DPU賦能加速 AI 應用交付

F5日前宣布推出BIG-IP Next for Kubernetes，一項全新的創新AI應用交付和應用安全解決方案，旨在為服務提供者和大型企業提供集中控制點，以加速、保護和簡化流入和流出大型人工智慧（AI）基礎設施的資料流量。

此解決方案利用高效能NVIDIA BlueField-3 DPU提升對大型AI部署至關重要的資料中心流量效率。透過對網路、流量管理和安全性的整合視圖，客戶將能夠最大化資料中心資源的利用率，同時實現最佳的AI應用效能。這不僅提高了基礎設施的效率，也實現了更快、更敏捷的AI推理，並最終提供增強AI驅動的客戶體驗。

F5 BIG-IP Next for Kubernetes是專為Kubernetes環境設計的解決方案，並已在大型電信雲端和5G基礎設施中得到驗證。透過BIG-IP Next for Kubernetes，該技術現在可提供針對領先AI用例的客製化服務，例如推理、檢索增強生成（RAG）以及無縫的資料管理和儲存。與NVIDIA BlueField-3 DPU的整合最小化了硬體佔用空間，實現了細粒度的多租戶，同時實現能源消耗優化，並提供高效能的網路、安全和流量管理。

F5與NVIDIA技術的整合將允許行動和固定線路電信服務供應商能夠輕鬆過渡至雲端原生Kubernetes基礎設施，以滿足供應商日益增長的將服務功能適應至雲端原生網路功能（CNFs）模型的需求。 F5 BIG-IP Next for Kubernetes透過將資料密集型任務卸載至BlueField-3 DPU，以釋放CPU資源以創造收入應用。此解決方案對於虛擬化RAN（vRAN）或MSO的DAA以及核心網路中的5G尤其有益，並為未來釋放6G通訊潛力奠定基礎。


專為高需求服務供應商和大型基礎設施設計的F5 BIG-IP Next for Kubernetes可帶來以下價值。

簡化雲端規模AI服務的交付：BIG-IP Next for Kubernetes可與客戶的前端網路無縫集成，顯著降低延遲，同時提供高效能的負載平衡，以處理上億參數AI模型及高達萬億次運維操作的大量資料需求。
加強對AI部署的控制：此解決方案為現代AI網路提供了集中整合點，具有豐富的可觀測性和細粒度資訊。 BIG-IP Next for Kubernetes支援HTTP以外的多項L7協議，確保在極高效能下實現增強的入站和出站控制。
保護全新AI環境：客戶可完全自動化AI訓練和推理端點發現和安全功能。 BIG-IP



Next for Kubernetes還可以將AI應用與針對性的威脅進行隔離，加強資料完整性和主權，同時解決現代AI環境中至關重要的加密能力。
F5首席技術長和人工智慧長Kunal Anand表示，「AI的普及催生了對先進半導體和技術的空前需求。目前各大企業正在建造AI工廠，即為大規模訓練AI模型及提供推理所需的強大處理能力而設計的高度優化環境，其速度驚人且具備最低延遲。而F5強大的應用交付和安全服務與NVIDIA的全端加速計算形成了強大的生態系統。


NVIDIA人工智慧網路和安全合作夥伴高級總監Ash Bhalgat表示，“服務供應商和企業需要加速運算，以安全高效地在大規模雲端上交付高效能的AI應用。NVIDIA正在與F5合作加速AI應用交付，得以更好地確保由BlueField-3 DPU支援的峰值效率和無縫用戶體驗。”



IDC計算系統研究實踐部研究副總裁Kuba Stolarski表示, “實現AI的潛力需要比行業以往準備更多的數據處理能力。對於許多公司而言，部署尖端的AI需要大量的基礎設施建設，然而這些建設往往十分複雜且昂貴，使得高效和安全的操作比以往任何時候都更加重要。F5 BIG-IP Next for Kubernetes解決了大型AI基礎設施的性能和安全性問題。


WWT人工智慧、應用程式及API安全解決方案全球實務經理Todd Hathaway表示，「隨著AI工作負載的爆炸性成長，企業對可擴展、最佳化以及增強控制的Kubernetes流量管理需求激增。隨著F5將BIG-IP Next for Kubernetes直接部署在NVIDIA BlueField-3在DPU上，這使得該項已得到驗證的技術現在可以允許大規模AI部署在理想接入點。



搭載NVIDIA BlueField-3 DPU的F5 BIG-IP Next for Kubernetes將於2024年11月上市。