谷歌「双十一」也放大招:Colab上可以免费使用P100 GPU了

简介: 双十一的各位读者朋友有没有买买买呢?在深度学习社区,谷歌居然也在这一天提供了福利——Colab 可以免费使用 P100 GPU 了。

近日,Reddit 上有开发者发现,他的 Colab 环境在执行训练任务时不太一样了。在训练任务中,Colab 显示正在使用的设备是英伟达的特斯拉 P100 GPU,版本是 PCIE 16G 内存版。


微信图片_20211202081118.jpg


该网友在 Reddit 上发帖询问后,Colab 可使用免费 P100 GPU 的消息得到了确认。


微信图片_20211202081137.jpg


之前,机器之心曾介绍过如何使用 Colab 上的算力资源。在今年 4 月份,Colab 将 GPU 从古董级别的 K80 升级到了 Tesla T4,这一种图灵架构的新 GPU 非常适合做低精度的推断,训练也比 K80 快了很多。如今,Colab 再一次开放 P100,今年已经是两次硬件升级了。


机器之心也立即验证了一下,当我们选择采用 GPU 加速后,打印出来的确实是 Tesla P100 GPU。


微信图片_20211202081157.jpg


P100 到底有多强


T4 在深度学习计算中能够很好地平衡训练和推理之间的需求,成本相比 V100 也低很多。但是本次 Colab 将算力升级到 P100,可以说是相当顶尖的 GPU 了。


微信图片_20211202081233.jpg


更何况,这些都是免费的。现在,如果要正常使用这些算力,恐怕也不是一个小数目。如上所示,机器之心从谷歌云官网上查到了现在 GPU 算力的价格。表中,T4 需要的每小时 1.03 美元/训练单元。而 P100 则高达 1.6 美元每小时/训练单元。


看起来没省多少钱?要知道,用一个 P100 GPU 在 ImageNet 上训练一个 ResNet-50 就要差不多一天多的时间(参考 DAWNBench)。如果不中断的话,这也需要 40 多美元,在 Colab 上,这笔钱就可以省掉了。


P100 的算力究竟有多强?可以说,这是目前深度学习领域相当有性价比的一款 GPU 了。从 2017 年发布以来,P100 已经成为了很多科研机构和企业进行模型训练的标配。相比于 K80 等 GPU,P100 在性能上有明显优势。


微信图片_20211202081323.jpg英伟达官网上 K80 和 P100 的性能对比。


微信图片_20211202081344.jpg

P100 的相关参数。


尽管 T4 相比 K80 是个不小的进步,但是 P100 依然比前两者都要强很多,这足以说明 Colab 本次的福利相当值了。


Colab,远比你想象中的要强


很多开发者在使用 Colab 时,总会抱怨时不时的终止,抱怨每一次结束后所有包和文件都会删除。但实际上,除了科学上网,其它很多问题都能解决,谷歌的 Colab 远比我们想象的要强。首先不说它对各种框架的支持,它在 TPU 和 GPU 等各种硬件上也提供了很多免费资源,更不用说与 Google Drive 联动而保存各种数据了。


首先最大一个问题是 Colab 会断,但小编用过很多次,差不多每次只要保证页面不关闭,连续运行十多个小时是没问题的。按照我们的经验,最好是在北京时间上午 9 点多开始运行,因为这个时候北美刚过凌晨 12 点,连续运行时间更长一些。像 T4 或 P100 这样的 GPU,连续运行 10 多个小时已经是很划算了,即使复杂的模型也能得到初步训练。


那么如果断了呢?这就要考虑加载 Google Drive 了。Colab 非常好的一点是能与谷歌云硬盘互动,也就是说等训练一些 Epoch 后,可以将模型保存在云端硬盘,这样就能做到持久化训练。每当 Colab 断了时,我们可以从云端硬盘读取保存的模型,并继续训练。


微信图片_20211202081416.jpg如上两行代码可以将谷歌云硬盘加载到远程实例的「content/drive」目录下,后面各种模型操作与数据集操作都可以在这个目录下完成,即使 Colab 断了连接,所有操作的内容也会保存在谷歌云盘。


只要搞定上面两个小技巧,Colab 的实用性就很强了。当然,如果读者发现分配的 GPU 是 K80,你可以重新启动几次 Colab,即释放内存和本地文件的重新启动,每一次重启都会重新分配 GPU 硬件,你可以「等到」P100。


除了最主要的框架和算力支持,Colab 还有很多更有意思的功能。比如说用个魔术符号「%」调用 TensorBoard、黑暗系代码主题、文件浏览和操作系统,以及最近才更新的 Pandas DataFrame 可视化操作。


微信图片_20211202081439.gif

Colab 的表格数据扩展,它允许对 Pandas 的 DataFrame 进行可视化的排序和过滤等操作。


随着 Colab 支持越来越强大的计算力、提供越来越多的功能和组件,对于很难获得足够算力的初学者与学生,它将会是非常好的一个开放性工具。




相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
6月前
|
Linux 异构计算 Docker
实战 Google Colab,一起用 GPU
实战 Google Colab,一起用 GPU
305 0
|
弹性计算 虚拟化 异构计算
阿里云GPU服务器详细介绍(Nvidia M40/P100/P4/V100)
阿里云GPU服务器详细介绍(Nvidia M40/P100/P4/V100),阿里云GPU服务器租用价格表包括包年包月价格、一个小时收费以及学生GPU服务器租用费用,阿里云GPU计算卡包括NVIDIA V100计算卡、T4计算卡、A10计算卡和A100计算卡
1757 0
|
6月前
|
机器学习/深度学习 异构计算 Python
Bert-vits2最终版Bert-vits2-2.3云端训练和推理(Colab免费GPU算力平台)
对于深度学习初学者来说,JupyterNoteBook的脚本运行形式显然更加友好,依托Python语言的跨平台特性,JupyterNoteBook既可以在本地线下环境运行,也可以在线上服务器上运行。GoogleColab作为免费GPU算力平台的执牛耳者,更是让JupyterNoteBook的脚本运行形式如虎添翼。 本次我们利用Bert-vits2的最终版Bert-vits2-v2.3和JupyterNoteBook的脚本来复刻生化危机6的人气角色艾达王(ada wong)。
Bert-vits2最终版Bert-vits2-2.3云端训练和推理(Colab免费GPU算力平台)
|
5月前
|
机器学习/深度学习 人工智能 弹性计算
阿里云GPU服务器租用费用_GPU服务器详解_A10、V100、T4、P4、P100
阿里云GPU云服务器提供NVIDIA A10、V100、T4、P4、P100等多种GPU卡,适合深度学习、科学计算等场景。实例性能强劲,单实例可达5PFLOPS混合精度计算,VPC网络支持2400万PPS和160Gbps内网带宽。GPU实例包括A10卡GN7i(3213.99元/月起)、V100-16G卡GN6v(3830.00元/月起)等,价格因配置而异。阿里云还提供GPU加速软件如AIACC-Training和AIACC-Inference,以及弹性计算实例EAIS。客户案例包括深势科技、流利说和小牛翻译等。
|
5月前
|
机器学习/深度学习 人工智能 弹性计算
阿里云GPU服务器全解析_GPU服务器租用费用_NVIDIA A10、V100、T4、P4、P100 GPU卡
阿里云GPU云服务器提供NVIDIA A10、V100、T4、P4、P100等多种GPU卡,结合高性能CPU,单实例计算性能高达5PFLOPS。支持2400万PPS及160Gbps内网带宽。实例规格多样,如A10卡GN7i(3213.99元/月)、V100-16G卡GN6v(3830.00元/月)等。适用于深度学习、科学计算、图形处理等场景。GPU软件如AIACC-Training、AIACC-Inference助力性能优化。购买方式灵活,客户案例包括深势科技、流利说、小牛翻译。
656 0
|
6月前
|
异构计算 Python
GPU服务器:使用Colab
GPU服务器:使用Colab
209 1
|
弹性计算 虚拟化 异构计算
阿里云GPU服务器价格表(AMD和Nvidia M40/P100/P4/V100)
阿里云GPU服务器价格表(AMD和Nvidia M40/P100/P4/V100)阿里云GPU服务器租用价格表包括包年包月价格、一个小时收费以及学生GPU服务器租用费用,阿里云GPU计算卡包括NVIDIA V100计算卡、T4计算卡、A10计算卡和A100计算卡,GPU云服务器gn6i可享受3折优惠,阿里云百科分享阿里云GPU服务器租用价格表、GPU一个小时多少钱以及学生GPU服务器收费价格表
343 0
|
弹性计算 虚拟化 异构计算
阿里云GPU服务器价格表(Nvidia M40/P100/P4/V100)
阿里云GPU服务器价格表(Nvidia M40/P100/P4/V100)
939 0
|
机器学习/深度学习 存储 Shell
Google Colab免费GPU大揭晓:超详细使用攻略
Google Colab免费GPU大揭晓:超详细使用攻略
|
机器学习/深度学习 人工智能 异构计算
云端炼丹,算力白嫖,基于云端GPU(Colab)使用So-vits库制作AI特朗普演唱《国际歌》
人工智能AI技术早已深入到人们生活的每一个角落,君不见AI孙燕姿的歌声此起彼伏,不绝于耳,但并不是每个人都拥有一块N卡,没有GPU的日子总是不好过的,但是没关系,山人有妙计,本次我们基于Google的Colab免费云端服务器来搭建深度学习环境,制作AI特朗普,让他高唱《国际歌》。 Colab(全名Colaboratory ),它是Google公司的一款基于云端的基础免费服务器产品,可以在B端,也就是浏览器里面编写和执行Python代码,非常方便,贴心的是,Colab可以给用户分配免费的GPU进行使用,对于没有N卡的朋友来说,这已经远远超出了业界良心的范畴,简直就是在做慈善事业。

热门文章

最新文章

下一篇
无影云桌面