使用 Canonical 和 NVIDIA AI Enterprise 加快 AI 应用程序开发
by Canonical on 7 November 2023
NVIDIA AI Enterprise 支持 Ubuntu KVM
Canonical 将继续扩大与 NVIDIA 的合作范围,为将于今天全面上市的NVIDIA AI Enterprise 4.0 提供 Ubuntu KVM Hypervisor 支持。在 Ubuntu 上使用 GPU 虚拟化的企业组织有望无缝迁移到新版 NVIDIA AI Enterprise 许可证。
NVIDIA AI Enterprise 4.0
NVIDIA AI Enterprise 4.0 现在具有跨工作站、数据中心和云部署支持功能,且更新中包括:
- NVIDIA NeMo,用于构建、定制和部署生成式人工智能模型;
- 两个新的人工智能工作流,用于加速生成式人工智能用例;
- 通过 NVIDIA Triton 管理服务增强可管理性,实现大规模自动化部署;
- 企业级支持。
NVIDIA AI Enterprise 为人工智能应用程序开发和部署提供了一个端到端且安全的云原生软件平台,帮助企业组织解决新挑战,同时提高运营效率。新的 NVIDIA Triton 管理服务可以简化并有效管理模型部署,并且 NeMo 支持构建、定制和部署复杂的大型语言模型,为企业提供一种简单、经济、快速的方式来使用生成式人工智能。
Ubuntu KVM 和 NVIDIA Enterprise 4.0
普遍将 NVIDIA 框架和工作流与 Ubuntu 结合使用的数据科学家和开发人员现拥有一个单一的平台,可以在最新一代 NVIDIA GPU 的基础之上快速开发人工智能应用程序。随着 Ubuntu KVM 支持 GPU 虚拟化,企业组织可以利用现有的本地或云基础架构快速部署相同的模型来支持 AI 工作负载的运行。
GPU 虚拟化是一个重要的工具,可以在多个虚拟机(VM)间共享单个 GPU。这样可以优化 GPU 资源利用率,并且直接为受宏观影响的 IT 预算节省大量成本。Ubuntu KVM 历来一直支持 NVIDIA 虚拟 GPU(vGPU)解决方案。Canonical 和 NVIDIA 现已验证 NVIDIA 的虚拟化解决方案,使 NVIDIA AI Enterprise 容器和虚拟机均支持 GPU,并将性能影响降到最低。一旦客户和用户指向新的 NVIDIA AI Enterprise 许可证服务器,则应在不中断的情况下继续使用。
企业将 NVIDIA AI Enterprise 与 Ubuntu KVM 结合使用,现可跨多云和混合云部署来扩展部署。
安全性和支持 —— 确保完整的深度学习堆栈
Ubuntu 是大多数人工智能开发人员的首选开源操作系统,Canonical 很自豪能够通过提供优化的、安全的操作系统,为 NVIDIA 的创新者提供支持。NVIDIA 客户使用 NVIDIA AI Enterprise 4.0,可以自动享有 Canonical 在操作系统之外的安全承诺,从而确保 NVIDIA 容器中开源内容的安全。旨在部署最新人工智能创新技术的企业组织使用 NVIDIA AI Enterprise,现在可以获得 NVIDIA 提供的企业级支持。此外,客户还可以获得 Canonical 针对其开源基础架构软件提供的支持,包括 Kubernetes 和 Kubeflow 等热门上游项目。
在谈及这些解决方案时,Canonical AI/ML 负责人 Maciej Mazur 表示:“经认证,Ubuntu KVM 与 NVIDIA AI Enterprise 相结合可以为客户提供端到端解决方案的所有必要要素:NVIDIA 提供的用于培训最新 LLM 的容器,以及 Canonical 提供的针对基础架构软件的企业级支持。”
入门简单且免费。您可以放心,如有需要,Canonical 专家可以提供帮助。
NVIDIA AI Enterprise 与 Canonical 开源解决方案结合使用入门
- 查看更多关于 Canonical 和 NVIDIA 致力于帮助企业运用人工智能的信息
- 观看我们携手 NVIDIA 和 Dell 推出的关于生成式人工智能的联合网络研讨会
- 观看 Charmed Openstack 结合 NVIDIA vGPU 技术的网络研讨会
- 在 Ubuntu KVM 上试用 NVIDIA AI Enterprise,并提供 90 天免费评估
订阅博客文章
查看更多内容
欢庆 Ubuntu 20 年:伙伴如何协助将 Ubuntu 引入不同的行业、市场和硬件
在我们庆祝 Ubuntu 诞生 20 周年之际,我们想花一点时间来思考合作的价值。软件应该开源并对所有人开放访问的想法催生了一个充满活力的用户社区和一个合作伙伴生态系统,并帮助我们将 Ubuntu 带到各个行业。 那么,我们和谁进行合作?我们很幸运拥有超过 100 个合作伙伴,他们都和 Ubuntu 有着不同的关系。 我们的合作之旅 当 Ubuntu 在 2004 年推出时,我们的目标之一是鼓励 Linux 社区采用,并将 Ubuntu 打造成一个可靠且用户友好的发行版。我们的第一个合作伙伴是 Debian 和 Linux 社区,他们一直与我们合作至今。 随着 Ubuntu 得到更为广泛的采用,其他组织很快就会注意到并利用 Ubuntu 的稳健性、适应性和可靠性。 […]
Ubuntu Linux 为什么成为金融服务领域取代 CentOS 的首选?
金融服务由技术驱动。而客户体验越来越多地由数据驱动,通过定制产品和服务可以体现出个人行为和偏好。所有这一切都建立在安全稳定的技术基础之上,只有这样的基础才可以提供敏捷性和灵活性,以适应客户需求的同时保持合规性。 使用 CentOS 作为创新基础的金融服务机构见证了 CentOS 8 于 2021 年退出,随后是 CentOS 7 于 2024 年 6 月退出。不过,最近的一项研究显示,各行业近四分之一的企业组织仍在使用 CentOS。 听起来是不是很耳熟?众所周知,金融机构在进行重大技术变革时是最谨慎的。考虑到金融业务的敏感性,这也就可以理解了。事实上,尽管过渡到云已成为一种成熟的方案,但仍有 60% 的金融机构表示,他们采用的传统技术堆栈成本过高且存在不足。与所有传 […]
分步指南:在 Ubuntu 上使用 Azure IoT Operations
简介 随着最近 Azure IoT Operations 的发布,Microsoft 为其客户提供了一个统一的数据平面,在节点数据捕获、基于边缘的遥测处理和云入口方面做出重大改进。 Azure IoT Operations 与 Ubuntu 的结合可谓是相得益彰,可以构建开箱即用的安全可靠的解决方案。 这篇博客是 Microsoft 的 Azure IoT Operations 入门的分步指南。最后,您会将 Azure IoT Operations 服务部署到本地支持 Azure Arc 的 microk8s Kubernetes 集群,并使用 X509 证书身份验证配置了与集群的 MQTT 代理的安全通信。为了实现这一点,您将执行命令、创建和编辑文件并发布自签名证书 […]