Skip to content

《时代》新封面触目惊心!

《时代》新封面触目惊心!

美国《时代》周刊最新一期封面(10月8日刊),令人触目惊心。

在这期封面上,病毒从白宫顶上的烟囱里,源源不断地喷涌而出,密密麻麻、狰狞恐怖,几乎把“时代”(TIME)吞噬。

GPU云端推理性能最高是CPU的237倍

7日,美媒报道称,与白宫相关的新冠肺炎确诊病例已升至34人,确诊者包括白宫工作人员及其接触者。另据中新网援引《今日美国》报道,特朗普和其他白宫感染者在几天内可能在多地传播病毒,使数百甚至数千人被感染。

《时代》周刊发推的标题是:“零号病人”和白宫的疫情暴发。

在此提醒广大市民,认真做好秋冬季日常防控,入境人员按规定主动报告、做好个人防护,如出现发热、咳嗽等症状,要戴好口罩及时就医,并告知医生近14天的旅行史、接触史等关键信息。

另外,英伟达还强调基于A100高性能系统的成本效益。英伟达表示,一套DGX A100系统可以提供相当于近1000台双插槽CPU服务器的性能,能为客户AI推荐系统模型从研发走向生产的过程,具有极高的成本效益。

犹记得上个月,《时代》(9月21日刊)也发了一张非常震撼的封面图片。

而据美国国家过敏症和传染病研究所所长安东尼·福奇更悲观地表示,今年秋冬季如果美国人仍不遵守相关公共卫生指南,这一数字将可能增至30至40万。

从提交结果的合作伙伴的系统中可以看到,英伟达T4仍然是企业的边缘服务器推理平台的主要选择。A100提升到新高度的性能意味着未来企业边缘服务器在选择AI推理平台的时候,可以从T4升级到A100,对于功耗受限的设备,可以选择Jeston系列产品。

特别值得注意的是,英伟达GPU首次在公有云中实现了超越CPU的AI推理能力。

基准测试从v0.5到v0.7,能够为要选用AI芯片和系统的公司提供更直观和有价值的参考是MLPerf基准测试的价值所在,比如,帮助金融结构的会话式AI更快速回答客户问题,帮助零售商使用AI保证货架库存充足。

彼时,美国因新冠死亡的人数实际上还没达到20万例,如今,约翰斯·霍普金斯大学统计数据显示,截至美国东部时间10月9日18时,美国新冠肺炎确诊病例超过765万例,达7650825例,死亡病例为213430例。预测显示,10月25日至31日的一周,美国可能新增新冠死亡病例2800例至6800例。

在SERVER模式下的推荐系统DLRM模型下,A100 GPU对比英特尔Cooper Lake有最高237倍的性能差距,在其他模型下也有比较显著的差距。值得注意的是,英特尔的Cooper Lake系统的状态还是预览,其余三款芯片的系统都已经可用。

8日晚,白宫医生肖恩·康利(Sean Conle)宣布特朗普已经完成了他的新冠肺炎治疗疗程。他预计总统特朗普当地时间周六(10日)可以“安全地重返公共活动”。

当地时间5日晚间,尚未痊愈的特朗普“闪电”出院,在白宫摘下口罩亮相,并录制视频鼓励民众“放心出门”,招致美国舆论批评。

当地时间2日,美国总统特朗普宣布自己确诊感染了新冠病毒。

参考消息、人民日报客户端

英伟达将其在云端训练市场的优势进一步拓展到云端和边缘推理市场符合AI未来的发展趋势。有预测指出,随着AI模型的成熟,市场对云端AI训练需求的增速将会降低,云端AI推理的市场规模将会迅速增加,并有望在2022年超过训练市场。

与此同时,这也将促进MLPerf组织在业界的受认可程度,从接近翻倍的提交成绩的组织就能看出来。

过去几年,云端AI训练市场英伟达拥有绝对优势,云端AI推理市场被英特尔赚取了大部分利润是事实。这让不少人都产生了GPU更适合训练而CPU更适合推理的认知,但MLPerf最新的推理测试结果可能会改变这一观点。

临界点到来?AI推理芯片市场竞争门槛更高

另据市场咨询公司ABI Research的数据,预计到2025年,边缘AI芯片市场收入将达到122亿美元,云端AI芯片市场收入将达到119亿美元,边缘AI芯片市场将超过云端AI芯片市场。

此次增加的推荐系统测试对于互联网公司意义重大。在王喆的《深度学习推荐系统》一书中提到,2019年天猫“双11”的成交额是2684亿元,假设推荐系统进行了优化,整体的转化率提高1%,那么增加的成交额大约为26.84亿元。

不过,AI行业发展迅速,AI模型的参数越来越多,应用的场景也越来越广泛。评价AI芯片和系统的推理性能需要涵盖可编程性、延迟、准确性、模型大小、吞吐量、能效等指标,也需要选择更具指导价值的模型和应用。

雷锋网原创文章,。详情见转载须知。

MLPerf Inference V0.7的测试结果显示,在数据中心OFFLINE(离线)测试模式下,赛灵思U250和英特尔Cooper Lake在各个测试模型下与英伟达T4的差距不大,但A100对比CPU、FPGA和自家的T4就有明显的性能差距。

五年前,只有少数领先的高科技公司使用GPU进行推理。如今,英伟达GPU首次在公有云市场实现超越CPU的AI推理能力,或许意味着AI推理市场临界点的到来。英伟达还预测,基于其GPU的总体云端AI推理计算能力每两年增长约10倍,增长速度高于英特尔。

打破16项AI性能记录!英伟达A100 GPU要无人能敌?

最先感受到影响的会是英特尔,但在云端AI推理市场体现出显著变化至少需要几年时间,因为企业在更换平台的时候会更加谨慎,生态的护城河此时也更能体现出价值。

这期封面没了《时代》封面的标志性“红框”,而是使用了全黑底、白字。上一次使用全黑封面还是19年前,2001年911事件之后。封面由一连串死亡数字集合成一个触目惊心的硕大数字:200000。封面上唯一的红字,是这三个大写单词:AN AMERICAN FAILURE(一个美国式失败)!

这也不难理解美国媒体的担忧了。

不过,在这份备忘录中,康利没有说明特朗普最近一次病毒检测为阴性的日期。

美国国家过敏症和传染病研究所所长安东尼·福奇6日表示,白宫的新冠肺炎疫情暴发本可以避免,而发生在白宫的实际情况也恰恰证明了新冠肺炎大流行不是骗局。

安培架构A100在MLPerf最新的训练和推理成绩表明英伟达不仅给云端AI训练的竞争者更大的压力,也可能改变AI推理市场的格局。

同时,英伟达也在不断优化推理软件堆栈,进一步提升在推理市场的竞争力。

凭借强大的软硬件生态系统,英伟达和英特尔依旧会是AI市场的重要玩家,只是随着他们竞争力的不断提升,其他参与AI市场竞争的AI芯片公司们面临的压力也随之增加。

这很好地说明A100的安培架构以及其第三代Tensor Core优势的同时,也表明了英伟达能够覆盖整个AI推理市场。在此次提交结果的23家公司中,除了英伟达外还有11家其合作伙伴提交了基于英伟达GPU的1029个测试结果,占数据中心和边缘类别中参评测试结果总数的85%以上。

任何一个基准测试都需要给业界具有参考价值的指标。MLPerf基准测试是在业界缺乏对AI芯片公认的评价标准的2018年诞生,因此,MLPerf组织既需要给出各方都认可的成绩,还需要根据AI行业的发展完善评价标准。

如此担忧,并非毫无来由。

另外,MLPerf Inference v0.7中增加医疗影像3D U-Net模型测试与新冠大流行以及AI在医疗行业的重要性与日俱增密切相关,比如一家初创公司使用AI简化了超声心电图的采集工作,在新冠大流行初期发挥了作用。

与2019年的MLPerf Inference v0.5版本相比,最新的0.7版本将测试从AI研究的核心视觉和语言的5项测试,扩展了到了包括推荐系统、自然语言理解、语音识别和医疗影像应用的6项测试,并且有分别针对云端和终端推理的测试,还加入了手机和笔记本电脑的结果。扩展的测试项从MLPerf和业界两个角度都有积极意义。

MLPerf推理基准测试进一步完善的价值

“总统打喷嚏,美国就感冒。当总统确诊了,美国也必须考虑到它的脆弱性。他的病态就是我们的病态。”《时代》周刊在封面文章中担忧地写道。

A100 GPU的优势也在边缘推理中也十分明显。在单数据流(Singel-Stream)测试中,A100对比英伟达T4和面向边缘终端的英伟达Jetson AGX Xavier有几倍到十几倍的性能优势。在多数据流(Multi-Stream)测试中,A100对比另外两款自家产品在不同AI模型中有几倍到二十多倍的性能优势。

据美国有线电视新闻网(CNN)报道,白宫发言人法拉赫(Alyssa Farah)当天也再次拒绝透露上述消息,理由是这是特朗普的“私人病史”,涉及隐私。