@levinzhang
2018-02-25T09:01:41.000000Z
字数 2004
阅读 491
Google为他们的客户引入了Preemptible GPU
by
摘要：
Google宣布在他们的云平台上，释放为Preemptible虚拟机（Virtual Machine）附加图像处理器（Graphical Processing Unit，GPU）的beta发布版本。Google云平台（Google Cloud Platform）的客户现在能够将NVIDIA K80和NVIDIA P100 GPU附加到Preemptible VM上，每个GPU每小时的价格分别是0.22和0.73美分，这要比on-demand实例上GPU的价格便宜50%。
Google宣布在他们的云平台上，释放为Preemptible虚拟机（Virtual Machine）附加图像处理器（Graphical Processing Unit，GPU）的beta发布版本。Google云平台（Google Cloud Platform）的客户现在能够将NVIDIA K80和NVIDIA P100 GPU附加到Preemptible VM上，每个GPU每小时的价格分别是0.22和0.73美分，这要比on-demand实例上GPU的价格便宜50%。这个发布版本能够让Google的客户在计算密集型的任务上有了更多的选择，这样他们能够在更细的粒度上进行高吞吐的批处理计算、机器学习以及科学和技术工作负载。
GCP用户能够创建和运行Preemptible VM实例，它要比标准的on-demand实例成本低得多。但是，Google Compute Engine会在30秒的警告之后，终止（preempt）这些实例。这些实例最多能使用24小时。GCP用户如果具有容错的工作负载并且不需要专门的实例，就成本而言，Preemptible实例是很合适的选择。另外，关联到Preemptible VM上的GPU默认都是preemptible的，因此成本会更低。
Alex Hickey是CIO Dive站点的编辑，在最新的简报中，他提供了一些利用Google Preemptiple GPU的观点：
对于一般的公司来说，构建或运行AI系统并不便宜。专家们的薪水已经达到了六位数甚至更高，AI的预算也变得很难分配。计算处理的硬件资源一般都是外包的，以便于节省成本。GPU比专门的硬件在速度和处理时间上表现更好，而专门的硬件往往很快就会积累可观的前期和维护成本。可用工具，包括用于处理的硬件，是AI和ML实现普及的重要因素。据统计，40%的公司具有AI实验室或实验性地应用，但是只有大约20%的企业实现了AI的规模化部署或核心业务功能的部署。不过，凭借更加可负担的GPU，更多的公司能够在预算和策略方面找到空间，实现POC和测试用例的落地。
典型的Preemptible VM可以通过在gcloud命令行的实例创建命令上附加--preemptible参数或者在使用REST API时，将scheduling.preemptible属性设置为true进行创建。另外，用户还可以在Google Cloud Platform Console上将Preemptibility设置为“On”，然后像往常一样为其关联GPU。
图片来源：https://cloudplatform.googleblog.com/2018/01/introducing-preemptible-gpus-50-off.html
除此之外，用户如果需要更强的可扩展性，还可以通过创建由preemptible实例所组成的托管实例组实现GPU动态池的功能。需要注意的是，在创建组之前，要指定实例模板的preemptible选项。这种方法所能带来的好处是如果preemptible实例有足够的处理能力的话，在重新preempt的时候，它们能够自动重建。当前，preemptible GPU的特性只能在US-central1 region中使用。Preemptible VM的完整文档可以通过 Compute Engine文档进行访问。
Google、Amazon和Microsoft都提供了这样低价的计算资源，形式包括Preemptible VM、spot或reserved VM实例。它们的差异在于实例使用的灵活性。Amazon EC2 Spot实例兼容Preemptible VM。但是，客户不能为它们添加GPU。AWS和Azure所提供的reserved实例成本优势不明显，不过它们有一年或三年的期限。根据用例和所需的可用性不同，用户可以选择存活时间更短的Preemptible VM或AWS spot实例，也可以选择生命周期更可扩展的Azure或AWS Reserved实例。它们在成本上都比云平台的on-demand实例更廉价。
查看英文原文：Google Introduces Low-Priced Preemptible GPUs for Their Customers
