芯东西(公众号:aichip001)编译 尹明顺剪辑 漠影
智东西9月13日音问,据The Information报谈,软件巨头甲骨文公司(Oracle Cloud Infrastructure)高档副总裁 Karan Batta称,尽管在销售东谈主工智能数据中心芯片方面隆盛发展,但一些开导AI的客户正在转向边界较小的竞争敌手AMD。
甲骨文公司认可英伟达在芯片商场上的上风地位,但同期认为需要加入一些竞争来可控硬件开导资本。
英伟达居品存在提高价钱可能,很多客户为此堕入担忧。
甲骨文高管称,AMD硬件大要灵验匡助公司精通因英伟达芯片供应艰难出现的危急,而这类艰难问题,在旧年的绝大多数本事皆存在过。
除了甲骨文公司外,等云功绩商也有减少对AI计较巨头英伟达依赖的意向。
一、英伟达断供成常态,客户纷繁转向AMD
Karan Batta说:“咱们发现,芯片推理的收场并不一定非要绑定在某个特定供应商。”Karan Batta认为,跟着英伟达在功绩器芯片商场上一骑绝尘,需要竞争来裁汰硬件资本。
无论是自主开导AI期骗这一层面,依然向软件供应商采购此类期骗层面,增强竞争皆将使企业大要为止AI推理资本。
AMD在2023年推出的最新旗舰功绩器芯片可能不如英伟达在2022年推出的最新旗舰居品H100弘大,但甲骨文和微软的高管们认为,他们别无选拔,只可救济AMD以促进竞争。Karan Batta补充谈:“AMD正在参预多数元气心灵,而况在提高芯片性能方面作念得很好。”
Karan Batta认为,甲骨文公司使用AMD硬件还有助于其精通异日英伟达潜在的供应艰难问题。此类艰难在旧年大部分本事皆发生过。
Karan Batta阻隔潜入具体细节或客户称号,但他的驳斥标明甲骨文公司但愿减少对AI计较巨头英伟达的依赖,这一作念法与微软等其他云功绩提供商肖似。
此外,用于推理的英伟达芯片租出资本一直不才降,但其下一代旗舰AI芯片可能会蜕变这一近况。其他英伟达客户也私行抒发了肖似的担忧,他们讲究淌若AMD或其他公司不霸占英伟达的商场份额,英伟达居品将陆续保抓腾贵的价钱。
诚然到现时为止,这种情况还莫得简直发生。
AMD称,与旧年同期比拟,其数据中心收入在6月当季增长了115%,达到28了亿好意思元,而英伟达的数据中心收入在7月当季增长了154%,达到了263亿好意思元。
▲英伟达与AMD数据中心收入对比图(图源:The Information)
二、甲骨文正与OpenAI、xAI开展互助,遵循提高芯片集群边界
与此同期,甲骨文和其他云功绩提供商正在隆盛发展,他们向OpenAI和埃隆·马斯克的xAI等客户出租了更多英伟达功绩器。
在好意思国的功绩器租出商场中,甲骨文公司排在亚马逊的Amazon云功绩、微软Azure云科技和谷歌云之后,位列第四。甲骨文公司从这项业务中取得了24亿好意思元的收入,同比增长45%。
甲骨文公司进入云计较边界相对较晚,但有些庆幸,因为旧年刚巧AI初创公司争相抢购云功绩器的飞扬。甲骨文公司莫得开导肖似OpenAI GPT-4的大型言语模子,故而关于AI开导客户不组成竞争威迫,这使它在商场显现出了上风。
当今,甲骨文公司正在寻求在AI模子磨练商场占据更大份额,长入首创东谈主拉里·埃里森(Larry Ellison)在周一暗示,甲骨文公司正在规整齐座容量逾越10亿瓦特的数据中心,它足以为像旧金山这么的城市供电。
Karan Batta阻隔潜入该数据中心的细节也未公布何时参预运营。他称,为了救济其推广,甲骨文公司将提高串联AI芯片集群的才调,使它们大要像单台计较机不异责任,这是磨练新大型言语模子的理念念诞生。
这些考订包括蜕变甲骨文公司冷却发烧芯片的神志,以及为电缆建造纯正,以便将不同建筑中的芯片聚拢起来,使它们无用沿途位于归并场合。
他说,甲骨文谋略将芯片集群边界扩大至少一倍,从6.4万个GPU增多到12.8万个以上。但他莫得讲明具体本事。
此外, Karan Batta认为,即使初创公司使用其他云功绩来开导其中枢模子,甲骨文公司仍然不错从东谈主工智能培训的需求中受益。
举例,这些公司还需要其他用途的硬件,如微调,开导东谈主员会在其中对特定任务的模子进行优化。
Karan Batta称,一些AI公司正在购买拜谒旧芯片的权柄来解决这些责任负载。
据The Information东谈主工智能数据中心数据库夸耀,甲骨文公司可能与OpenAI和微软收场了一项契约,将在来岁使用好意思国德克萨斯州的一座活动,但 Karan Batta阻隔就具体公司对此事发表驳斥。
结语:越挫越勇?自称AI计较才调名列三甲
最近,甲骨文公司受挫,因马斯克决定在好意思国孟菲斯建造我方的GPU集群,而不是从甲骨文公司租用,因为该公司无法快速开导数据中心。
Karan Batta认为,当今判断xAI是否能在甲骨文之前更快地完成由10万个H100芯片组成的Colossus集群,还为时过早。
“我莫得一个比较的基准。咱们比xAI快得多吗?依然慢得多?……我认为,与其他云功绩提供商比较而言,咱们会认为我方在AI计较才调方面是最快的之一。”
开始:The Information