51CTO首页
AI.x社区
博客
学堂
精品班
直播训练营
企业培训
鸿蒙开发者社区
WOT技术大会
AIGC创新中国行
公众号矩阵
移动端

TPU v4芯片算力刷新高!谷歌建全球超大机器学习中心

人工智能 新闻
搞机器学习模型训练,算力不行,不行。谷歌Cloud TPU v4 Pods预览版最新发布,算力再刷新高。

最近,在谷歌的I/O开发者大会上,谷歌除了发布令人眼花缭乱的新手机、AR眼镜和全家桶软件升级之外, 还为全球的机器学习玩家带来了一发「重磅炸弹」。

一年前亮相的TPU v4,已经正式部署在谷歌云机器学习集群上了。这件机器学习「大杀器」,已经正式用在了Google Cloud最新机器学习集群的预览版上。

谷歌表示,它将成为世界上最大的公开机器学习中心。

目前,除了最新的Google Cloud预览版外,谷歌其余SOTA级别的产品,比如搜索引擎、视频网站Youtube等等,都应用了TPU处理器(即张量处理单元)。

划时代的TPU v4,碾压v3

TPU v4是谷歌在去年的I/O大会上推出的芯片。

在当时的开发者大会上,谷歌CEO Sundar Pichai花了1分42秒的时间介绍了这款芯片。

TPU v4是谷歌的第四代定制AI芯片,其算力是上一版本v3的两倍。性能相比前一代也提升了十倍多。

可以说,TPU v4芯片给谷歌谷歌云平台补上了十分关键的一环。机器学习的训练速度得以显著提升。

量化来看,4096个v4 TPU,即一个pod的芯片,就可以提供超过一个exaflop(百亿亿浮点运算)的AI计算能力。

可能上述数据还不够直观。对比来看,一个TPU pod的计算能力如果达到了每秒百亿亿次浮点计算的级别,相当于一千万台笔记本电脑之和。

以前要想获得1个exaflop(每秒 10 的 18 次方浮点运算)的算力,通常需要建立一个定制的超级计算机。

TPU是谷歌的第一批定制芯片之一,当包括微软在内的其他公司决定为其机器学习服务采用更灵活的FPGA时,谷歌很早就在这些定制芯片上下了赌注。

谷歌早已部署了许多这样的计算机,在他们的数据中心有几十个TPU v4 pods。

此外,最重要的是,谷歌这些数据中心将以90%或接近90%的无碳能源运行。

看来,TPU v4不光性能强大,还环保。

Google Cloud最新预览版!

在最近的谷歌I/O开发者大会上发布的Google Cloud最新机器学习集群的预览版可谓是会上的一大亮点。

谷歌表示,「客户对机器学习的容量、性能和规模的需求一直在快速增长。为了支持AI的下一代基础性进步,我们推出了谷歌云机器学习集群。其中就包括预览版的Cloud TPU v4 Pod。」

谷歌毫不客气的表示,「这就是世界上最快、最高效和最可持续的机器学习基础设施中心。」

在Cloud TPU v4 Pods的支持下,研究和开发人员能够训练日益复杂的模型,来支持诸多算法系统。

比如,NLP(大规模自然语言处理)、推荐系统和计算机视觉算法等等。

谷歌表示,在算力最高可达9 exaflops的峰值聚合性能下,Cloud TPU v4 Pods集群在算力方面是全世界最大的公开可用的机器学习中心。

而且别忘了上面说过的,不光算力强,还环保。

谷歌数据中心的Matt Eastwood表示,「我们最近对2000名IT从业者进行了调查。我们发现,基础设施算力不足往往是AI项目失败的根本原因。」

「这也正是我们要推出Cloud TPU v4 Pods的原因。再加上我们能够做到90%的操作由无碳能源提供动力,说明我们不光在拔高算力水平,还同时关注可持续性。」

这其实很好理解。哪怕算力再强,如果耗能过大,也不会是长久之计。

既然聊到了可持续性,就再多说点有关该集群对能源利用的高效性。

除了上述提到的清洁能源供应外,谷歌数据中心的电源使用效率(PUE)等级为1.10。

而且,TPU v4芯片每瓦特最大功率的峰值Flop还是上一代的3倍。

在去年推出这款芯片的时候,谷歌就承诺会在去年年底前推广。当时,谷歌就给了一些AI巨头使用许可,包括Cohere、LG AI研究中心、Meta、Salesforce等等。

谷歌表示,用户很喜欢新款芯片的性能和可扩展性,TPU v4的快速互连和优化的软件堆栈满足了他们的需求。客户可以通过该芯片优良的架构构建各自的交互发展环境。

并且,因为TPU v4的灵活性,这款芯片也能完美的契合到客户使用的框架中,包括JAX、Pytorch、TensorFlow等等。

这些特点让研究人员能不断推动AI的发展,训练大规模的SOTA机器学习模型。

几年前谷歌还成立了TRC,即TPU Research Cloud项目,给机器学习的从业人员提供了极强的算力支持。

凭借谷歌推出的芯片架构,开发人员得以实现自己的各种奇思妙想。

比方说,有人用AI写波斯语诗集,有人利用计算机视觉和行为遗传学来研究睡眠和运动引起的疲劳的区别等等。

用AI写的波斯语诗篇

谷歌副总裁、人工智能研究中心的Jeff Dean表示,「Cloud TPU v4是一个里程碑式的产品。我们相信,有了它,未来我们可以和全球的机器学习开发人员开展更多合作,让AI造福整个世界。」

责任编辑:张燕妮 来源: 新智元
相关推荐
侵吞全球谷歌Gemini被曝达GPT-4五倍,手握TPU王牌碾压OpenAI
知名的SemiAnalysis第三弹又来了!这次,作者爆料谷歌的Gemini消耗算力是GPT4的整整5倍,手中没有足够GPU的人,在商业化战争中铁定出局。

2023-08-29 13:50:00

AI 谷歌
谷歌超强AI超碾压英伟达A100!TPU v4性能提升10倍,细节首次公开
微软为ChatGPT打造专用超算,砸下几亿美元,用了上万张A100。现在,谷歌首次公布了自家AI超算的细节——性能相较上代v3提升10倍,比A100强1.7倍。此外,据说能和H100对打的芯片已经在研发了。

2023-04-06 09:37:22

谷歌 AI
芯片+服务器+数据中心,如何测算ChatGPT需求?
训练ChatGPT需要使用大量算力资源。

2023-02-25 22:05:16

算力 数据
谷歌TPU 看AI芯片的未来
随着摩尔定律未来越来越接近物理极限,预计未来人工智能芯片性能进一步提升会越来越倚赖算法芯片协同设计,而另一方面,由于有算法芯片协同设计,我们预计未来人工智能芯片的性能仍然将保持类似摩尔定律的接近指数级提升,因此人工智能芯片仍然将会是半导体行业未来几年最为热门的方向之一,也将会成为半导体行业未来继续发展的重要引擎。​​

2023-04-11 08:37:30

TPU AI 芯片
再次刷新HANA世界纪录 戴尔PowerEdge 4路升级V4
升级后的PowerEdge第13代服务器包括戴尔PowerEdgeR930与R830机架式服务器,以及搭载PowerEdgeFC830与PowerEdgeM830刀片式服务器的升级版PowerEdgeFX2与PowerEdgeM1000e融合平台。因采用了全新英特尔&174;Xeon&174;E788004800v4与E54600v4系列处理器产品,客户能够快速部署高性能密集型应用,轻松扩展并更好地管理基础架构以及关键任务工作负载的交付

2016-09-02 14:53:11

戴尔
谷歌最强芯片升级,二代TPU是深度学习的未来?
在GoogleIO2016的主题演讲进入尾声时,谷歌的CEO皮采提到了一项他们这段时间在AI和机器学习上取得的成果,一款叫做TensorProcessingUnit(张量处理单元)的处理器,简称TPU。在这个月看来,第一代的TPU处理器已经过时。

2017-05-23 18:59:56

谷歌TPU训练BERT只要23秒,华为AI芯片超英伟达V100
今天,人工智能行业权威“跑分”MLPerf训练v0.7出炉,这是该跑分推出以来第三次放榜。

2020-07-30 14:05:53

谷歌 华为 芯片
详谈NFS v4的优势
对于NFSv4我们这里主要讲解一下有关他的新特点以及相应的一些优势。对于今后的发展做一个展望。希望对您有用。

2010-08-05 16:00:14

NFS v4
AI中心热潮背后:谁在花冤枉钱?
一份公开资料显示,2020年城市A的智能计算中心,每100PFlops(每秒10亿亿次浮点运算)16位精度的算力建设成本为7500万元。

2021-07-15 16:00:11

AI 数据 人工智能
ARM芯片谷歌Android
实际上,由于Wintel的高度强势,目前上网本同质化相当严重,随便翻开硬件参数看看:WindowsXP、AtomN270处理器几乎成了标准配置,厂家仅能在屏幕、内存、硬盘上作下小文章。

2009-03-20 08:20:43

ARM Google Android
V4 包中,鸡肋的 AppLaunchChecker
AndroidSupportv4一直作为一个向下兼容的库而存在,而从23.3.0开始,增加了一个AppLaunchChecker的类,用于判定当前的App是否被用户从桌面启动过。

2017-07-26 08:17:03

V4 AppLaunchCh Api
NFS V4的特点及功能
文章摘要:下面我们来对NFSV4的版本特点以及一些新功能进行一下介绍。希望大家通过本文对此能够有所了解。

2010-07-28 15:17:07

阿里云启动全球最大智中心,总算达12 EFLOPS
8月30日,阿里云宣布正式启动张北超级智算中心,总建设规模为12EFLOPS(每秒1200亿亿次浮点运算)AI算力,将超过谷歌的9EFLOPS和特斯拉的1.8EFLOPS,成为全球最大的智算中心,可为AI大模型训练、自动驾驶、空间地理等人工智能探索应用提供强大的智能算力服务。

2022-08-30 20:54:40

阿里云 超级智算中心 智能算力
全球芯片销售额创新高:移动设备发 中国销售额最多
对于全球科技行业来说,芯片无疑是含金量最高的,当然也是带来收入最多的。

2018-08-14 14:55:31

芯片 移动 设备
八款浪潮E5 v4服务器全球同步升级
采用至强XeonE52600v4系列处理器后,浪潮服务器性能有了明显提升。尤其是旗舰产品NF5280M4最为明显,在整型浮点运算、Java中间件、在线交易、虚拟化等不同类型的测试场景中,性能提升在12%44%不等。新一代E5v4处理器并不是单纯制程技术的升级,E5v4系列采用了14纳米制程,最大核心数量从18个提高到22个,末级缓存扩大到55MB,而且引入了英特尔RDT技术,有...

2016-04-06 11:52:25

浪潮
PrintUsage V4企业打印管理新革命
随着企业IT化和办公自动化的发展,企业计算机环境也日益复杂,其中打印作为企业办公中的重要环节,承载着大量业务内容、重要信息以及企业支出。同时,从桌面打印机到复合一体机,从普通纸张打印到特种排版打印设备,企业在管理过程中所面对的管理对象变得日趋复杂。

2014-04-28 15:58:46

PrintUsage 打印
日本高校将用Tesla全球最强超
日本东京工业大学日前宣布,将在校内搭建一台使用NVIDIATesla通用计算卡的超级计算机TSUBAME2.0。

2010-06-18 13:59:23

Tesla 超算
基于Android 4.0的MIUI V4即将推出
“MIUIV4是MIUI从Android4.0框架出发进行全新的设计,保留了原生4.0的应用框架,但是依然继承了MIUI人性化的设计和炫酷的界面。”

2011-12-03 19:13:18

Android
【深度学习系列】用PaddlePaddle和Tensorflow实现GoogLeNet InceptionV2/V3/V4
上一篇文章我们引出了GoogLeNetInceptionV1的网络结构,这篇文章中我们会详细讲到InceptionV2V3V4的发展历程以及它们的网络结构和亮点。

2018-04-18 09:39:07

深度学习

深圳SEO优化公司喀什设计公司网站推荐永湖SEO按天扣费多少钱张家口网站建设设计多少钱武汉网站优化排名价格长沙网站搜索优化报价甘孜网站优化按天计费公司柳州推广网站公司开封企业网站设计公司钦州SEO按天扣费多少钱汕头网页设计漯河网站优化按天计费多少钱坂田seo排名天津百姓网标王烟台网站推广报价防城港外贸网站建设推荐百色关键词按天计费价格长沙模板网站建设多少钱民治外贸网站制作公司湘西企业网站建设报价安庆网站改版多少钱曲靖外贸网站制作多少钱常州优秀网站设计推荐和县网站建设设计推荐河池网站建设设计公司海西网站推广工具哪家好包头网页设计报价光明至尊标王公司无锡如何制作网站价格孝感网站优化按天计费价格周口网站开发歼20紧急升空逼退外机英媒称团队夜以继日筹划王妃复出草木蔓发 春山在望成都发生巨响 当地回应60岁老人炒菠菜未焯水致肾病恶化男子涉嫌走私被判11年却一天牢没坐劳斯莱斯右转逼停直行车网传落水者说“没让你救”系谣言广东通报13岁男孩性侵女童不予立案贵州小伙回应在美国卖三蹦子火了淀粉肠小王子日销售额涨超10倍有个姐真把千机伞做出来了近3万元金手镯仅含足金十克呼北高速交通事故已致14人死亡杨洋拄拐现身医院国产伟哥去年销售近13亿男子给前妻转账 现任妻子起诉要回新基金只募集到26元还是员工自购男孩疑遭霸凌 家长讨说法被踢出群充个话费竟沦为间接洗钱工具新的一天从800个哈欠开始单亲妈妈陷入热恋 14岁儿子报警#春分立蛋大挑战#中国投资客涌入日本东京买房两大学生合买彩票中奖一人不认账新加坡主帅:唯一目标击败中国队月嫂回应掌掴婴儿是在赶虫子19岁小伙救下5人后溺亡 多方发声清明节放假3天调休1天张家界的山上“长”满了韩国人?开封王婆为何火了主播靠辱骂母亲走红被批捕封号代拍被何赛飞拿着魔杖追着打阿根廷将发行1万与2万面值的纸币库克现身上海为江西彩礼“减负”的“试婚人”因自嘲式简历走红的教授更新简介殡仪馆花卉高于市场价3倍还重复用网友称在豆瓣酱里吃出老鼠头315晚会后胖东来又人满为患了网友建议重庆地铁不准乘客携带菜筐特朗普谈“凯特王妃P图照”罗斯否认插足凯特王妃婚姻青海通报栏杆断裂小学生跌落住进ICU恒大被罚41.75亿到底怎么缴湖南一县政协主席疑涉刑案被控制茶百道就改标签日期致歉王树国3次鞠躬告别西交大师生张立群任西安交通大学校长杨倩无缘巴黎奥运

深圳SEO优化公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化