在人工智能領域，企業正面臨著前所未有的機遇與挑戰。為了滿足市場對于快速、高效且定制化AI應用的需求，NVIDIA于太平洋時間2024年3月18日在其總部加利福尼亞州圣何塞，隆重推出了數十項企業級生成式AI微服務。這些微服務旨在為開發者提供一個強大的平臺，幫助他們創建和部署定制化的生成式AI助手，同時確保企業對知識產權的完整所有權和控制權。
這些生成式AI微服務是基于NVIDIA CUDA平臺開發的云原生服務目錄，其中包括NVIDIA NIM微服務，該服務能夠優化NVIDIA及其合作伙伴生態系統中20多個熱門AI模型的推理性能。此外，用戶還可以以NVIDIA CUDA-X微服務的形式，利用NVIDIA加速軟件開發套件、庫和工具，進行增強生成檢索（RAG）、護欄、數據處理、高性能計算（HPC）等操作。值得一提的是，NVIDIA還發布了20多項針對醫療領域的NIM和CUDA-X微服務，進一步拓寬了AI在醫療行業的應用前景。
這些微服務的推出，為NVIDIA的全棧計算平臺增添了新的一層。它們將模型開發人員、平臺提供商和企業緊密地連接在一起，形成了一個強大的AI生態系統。通過這個標準化的路徑，企業可以輕松地運行針對NVIDIA CUDA安裝基礎（包括云、數據中心、工作站和PC中的數以億計的GPU）優化的定制AI模型。
NVIDIA創始人兼首席執行官黃仁勛表示，企業平臺擁有大量的數據資源，這些數據可以轉化為生成式AI助手，為企業帶來巨大的商業價值。NVIDIA與合作伙伴生態系統共同開發的這些容器化AI微服務，將成為各行業企業成為AI公司的基石。
值得一提的是，NIM推理微服務的推出，極大地縮短了部署時間，從傳統的幾周縮短至幾分鐘。這些微服務提供了基于NVIDIA推理軟件的預構建容器，包括Triton推理服務器和TensorRT-LLM，使開發者能夠快速構建并部署AI應用。此外，NIM微服務還為語言、語音和藥物發現等領域提供了行業標準API，讓開發者能夠利用自己基礎設施中的專有數據，實現更加安全、高效的AI應用開發。
在實際應用中，這些生成式AI微服務已經得到了廣泛應用。例如，ServiceNow宣布正在使用NIM來加快針對特定領域的全新助手和其他生成式AI應用的開發和部署。此外，用戶還可以從亞馬遜SageMaker、谷歌Kubernetes Engine和微軟Azure AI等平臺訪問NIM微服務，并與Deepset、LangChain和LlamaIndex等流行的AI框架進行集成。
除了NIM微服務外，CUDA-X微服務也為AI應用的開發提供了強大的支持。這些微服務為數據準備、定制和訓練提供了端到端的構建模塊，助力企業加速開發生產級AI。通過利用NVIDIA Riva進行定制語音和翻譯AI的開發，以及使用NVIDIA cuOpt進行路由優化，企業可以進一步提升AI應用的性能和準確性。此外，NeMo Retriever微服務的推出，使得開發者能夠將AI應用與業務數據緊密鏈接，從而提高AI助手的準確性和洞察力。
綜上所述，NVIDIA推出的企業級生成式AI微服務為企業提供了強大的技術支持和創新動力。這些微服務不僅簡化了AI應用的開發和部署流程，還為企業帶來了更高的靈活性和性能。隨著AI技術的不斷發展，相信這些微服務將在未來發揮更加重要的作用，推動AI應用的普及和創新。
原創文章，作者：科技探索者，如若轉載，請注明出處：http://www.doinggoodmedia.com/article/638486.html
