在AI开发及设计过程中，应该选择本地GPU系统还是远程GPU虚拟化？

当需要使用规模庞大的数据构建复杂的AI模型时，长期的项目开发周期有时会使得运营成本上升。这时，开发者可能需要慎重地运行每一次迭代或是训练，以控制成本，但这也降低了实验的自由度。这种时候，本地化GPU系统的优势就凸现了出来，只需要一次性投入，就能给开发者提供无限次的迭代和测试时间。

使用本地GPU的数据科学家、学生和企业不必算计他们的系统使用时间，也不必为他们在特定时间段内能够承受多少次运行做预算。即便一个方法失败了，不需要额外的投入，就可以开始试验新的代码，这将鼓励开发人员充分发挥他们的创造力。而且，对于一套本地系统来说，其使用率越高，投资回报就越大。

从功能强大的桌面 GPU到工作站和企业级系统，本地化AI机器有很多选择。根据价格和性能的需要，开发人员可能会从单个NVIDIA GPU或工作站开始，并最终升级到一个AI超级计算机集群。

云端GPU可被用于多种任务中，如训练多语言AI语音引擎、检测糖尿病导致失明的早期迹象，以及开发媒体压缩技术。借助于云端GPU，创业公司、学者和创作者们可以快速开始工作，探索新的想法和实验，而无需长期关注于特定规模或配置的GPU。

用户可以通过所有主流云平台访问NVIDIA数据中心GPU，包括：

阿里云（https://www.alibabacloud.com/product/gpu）

AWS（https://www.nvidia.com/en-us/data-center/gpu-cloud-computing/amazon-web-services/）

谷歌云（https://www.nvidia.com/en-us/data-center/gpu-cloud-computing/google-cloud-platform/）

IBM Cloud （https://www.ibm.com/cloud/gpu）

Microsoft Azure （https://www.nvidia.com/en-us/data-center/gpu-cloud-computing/microsoft-azure/）

Oracle Cloud Infrastructure （https://www.oracle.com/cloud/partners/gpu.html）

云服务供应商通过为开发人员提供有用的资源，如开发工具、预训练的神经网络和技术支持，帮助用户进行设置、故障排除。当面临海量的训练数据涌入，或是一个试点项目启动，亦或是有大量新用户新增进来的时候，云计算能够让企业轻松地扩展其基础设施，以应对不断变化的计算资源需求。

为了提高成本效益，在使用云进行研究、应用程序容器化、实验或其它对时间要求不高的项目的时候，开发者还可以选择使用闲置的容量，并获得最高达90%的折扣。这种模式被称为“spot instances（点实例）”，能够有效地将云GPU上的空间转租给其他用户。

长期使用云计算的用户也可以升级使用最新、最强大的数据中心GPU，因为云提供商会经常更新他们的产品，并且经常会为持续使用平台的用户提供优惠折扣。

对于许多企业来说，仅仅选择一种方法是不够的。混合云计算将本地化与云端两者结合了起来，使用户既能享有本地化系统的安全性和可管理性，又能享受到由服务供应商提供的公共云资源。

混合云可以在本地资源计算能力达到顶峰时，为用户提供额外的计算资源，以满足高峰需求，这种模式被称为“云爆发（cloud bursting）”。或者企业还可以使用本地数据中心来处理其最敏感的数据，同时在混合云中运行动态的、计算密集型任务。

选择云GPU还是本地GPU？