1. <menuitem id="k76ut"></menuitem>

    <output id="k76ut"><track id="k76ut"></track></output>

    <menuitem id="k76ut"><video id="k76ut"></video></menuitem>

    <menuitem id="k76ut"><video id="k76ut"></video></menuitem><ins id="k76ut"><option id="k76ut"></option></ins>

    英偉達NVIDIA推出企業級生成式AI微服務,加速AI應用部署與創新

    英偉達NVIDIA推出企業級生成式AI微服務,加速AI應用部署與創新

    在人工智能領域,企業正面臨著前所未有的機遇與挑戰。為了滿足市場對于快速、高效且定制化AI應用的需求,NVIDIA于太平洋時間2024年3月18日在其總部加利福尼亞州圣何塞,隆重推出了數十項企業級生成式AI微服務。這些微服務旨在為開發者提供一個強大的平臺,幫助他們創建和部署定制化的生成式AI助手,同時確保企業對知識產權的完整所有權和控制權。

    這些生成式AI微服務是基于NVIDIA CUDA平臺開發的云原生服務目錄,其中包括NVIDIA NIM微服務,該服務能夠優化NVIDIA及其合作伙伴生態系統中20多個熱門AI模型的推理性能。此外,用戶還可以以NVIDIA CUDA-X微服務的形式,利用NVIDIA加速軟件開發套件、庫和工具,進行增強生成檢索(RAG)、護欄、數據處理、高性能計算(HPC)等操作。值得一提的是,NVIDIA還發布了20多項針對醫療領域的NIM和CUDA-X微服務,進一步拓寬了AI在醫療行業的應用前景。

    這些微服務的推出,為NVIDIA的全棧計算平臺增添了新的一層。它們將模型開發人員、平臺提供商和企業緊密地連接在一起,形成了一個強大的AI生態系統。通過這個標準化的路徑,企業可以輕松地運行針對NVIDIA CUDA安裝基礎(包括云、數據中心、工作站和PC中的數以億計的GPU)優化的定制AI模型。

    NVIDIA創始人兼首席執行官黃仁勛表示,企業平臺擁有大量的數據資源,這些數據可以轉化為生成式AI助手,為企業帶來巨大的商業價值。NVIDIA與合作伙伴生態系統共同開發的這些容器化AI微服務,將成為各行業企業成為AI公司的基石。

    值得一提的是,NIM推理微服務的推出,極大地縮短了部署時間,從傳統的幾周縮短至幾分鐘。這些微服務提供了基于NVIDIA推理軟件的預構建容器,包括Triton推理服務器和TensorRT-LLM,使開發者能夠快速構建并部署AI應用。此外,NIM微服務還為語言、語音和藥物發現等領域提供了行業標準API,讓開發者能夠利用自己基礎設施中的專有數據,實現更加安全、高效的AI應用開發。

    在實際應用中,這些生成式AI微服務已經得到了廣泛應用。例如,ServiceNow宣布正在使用NIM來加快針對特定領域的全新助手和其他生成式AI應用的開發和部署。此外,用戶還可以從亞馬遜SageMaker、谷歌Kubernetes Engine和微軟Azure AI等平臺訪問NIM微服務,并與Deepset、LangChain和LlamaIndex等流行的AI框架進行集成。

    除了NIM微服務外,CUDA-X微服務也為AI應用的開發提供了強大的支持。這些微服務為數據準備、定制和訓練提供了端到端的構建模塊,助力企業加速開發生產級AI。通過利用NVIDIA Riva進行定制語音和翻譯AI的開發,以及使用NVIDIA cuOpt進行路由優化,企業可以進一步提升AI應用的性能和準確性。此外,NeMo Retriever微服務的推出,使得開發者能夠將AI應用與業務數據緊密鏈接,從而提高AI助手的準確性和洞察力。

    綜上所述,NVIDIA推出的企業級生成式AI微服務為企業提供了強大的技術支持和創新動力。這些微服務不僅簡化了AI應用的開發和部署流程,還為企業帶來了更高的靈活性和性能。隨著AI技術的不斷發展,相信這些微服務將在未來發揮更加重要的作用,推動AI應用的普及和創新。

    原創文章,作者:科技探索者,如若轉載,請注明出處:http://www.doinggoodmedia.com/article/638486.html

    (0)
    科技探索者的頭像科技探索者管理團隊

    相關推薦

    發表回復

    登錄后才能評論
    在线天堂а√8,噜噜狠狠色综合久色a站网址,自w到高c的26种方法图,日本丰满大乳人妻无码苍井空

    1. <menuitem id="k76ut"></menuitem>

      <output id="k76ut"><track id="k76ut"></track></output>

      <menuitem id="k76ut"><video id="k76ut"></video></menuitem>

      <menuitem id="k76ut"><video id="k76ut"></video></menuitem><ins id="k76ut"><option id="k76ut"></option></ins>