(資料圖)

【太平洋科技資訊】早前,微軟與英偉達宣達成合作,發(fā)布了Azure ND H100 v5 VM虛擬機預覽版。經(jīng)過數(shù)月的測試后,微軟在今日正式推出了這款虛擬機,并宣布擴展了其Azure OpenAI服務。

ND H100 v5 VM是Azure迄今為止最強大和高度可伸縮的AI虛擬機系列。該虛擬機支持的按需配置可達8至上千個通過Quantum-2 InfiniBand網(wǎng)絡互連的NVIDIA H100 GPU,從而顯著提高了AI模型的性能。相較于上一代的ND A100 v4 VM,這款虛擬機包含了一些創(chuàng)新技術。

首先,它搭載了8塊NVIDIA H100 Tensor Core GPU,通過下一代NV Switch和NV Link 4.0進行互連。其次,在無阻塞胖樹網(wǎng)絡中,每個GPU搭載了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand,每個虛擬機的性能達到了3.2Tb/s。此外,每個虛擬機中的8塊本地GPU之間通過3.8Tb/s的對分割帶寬的NV Switch和NV Link 4.0進行互聯(lián)。此外,該虛擬機還采用了第四代英特爾至強可擴展處理器,以及PCIE第5代主機到GPU的互連,每個GPU的帶寬為64Gb/s。最后,它還搭載了16信道的4800 MHz DDR5內(nèi)存。

這款新的虛擬機使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡,目前僅限于美國東部和西部Azure企業(yè)訪問。微軟表示,他們正在努力在明年為其虛擬機添加數(shù)十萬塊新的GPU。

除了推出這款Azure虛擬機,微軟還宣布擴展其Azure OpenAI服務,在加拿大東部、美國東部2、日本東部和英國南部地區(qū)上線,ChatGPT AI 平臺最強大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務區(qū)域。

微軟表示,Azure OpenAI服務的客戶已經(jīng)超過11000名,本季度平均每天吸引100名新客戶。這一顯著的增長證明了他們的服務為渴望利用人工智能潛力滿足其獨特需求的企業(yè)帶來了價值和可擴展性。

標簽: