微软为ChatGPT打造公用超算！砸下几亿美元，上万张英伟达A100打造

老鸦

原标题：微软为ChatGPT打造公用超算！砸下几亿美元，上万张英伟达A100打造  
萧箫 发自 凹非寺   
量子位 | 大众号 QbitAI   
微软砸下大几亿美元，专门为训练ChatGPT打造了一台超算——  
上万张英伟达A100芯片打造，乃至专门为此调剂了办事器架构，只为给ChatGPT和新必应AI提供更好的算力。   


  
△图源：微软   
不只如斯，微软还在Azure的60多个数据核心部署了几十万张GPU，用于ChatGPT的推理。  
有网友感叹：果真仍是得靠钱生钱啊~  
还有网友调侃，微软数据核心办事器终于多了个新用处：  
虽然不是真的，不外想象微软数据核心的某些办事器用处，可能一半是Xbox的xCloud，另外一半是ChatGPT。
    虽然不是真的，不外想象微软数据核心的某些办事器用处，可能一半是Xbox的xCloud，另外一半是ChatGPT。  
微软为何打造这个超算？   
事实上，这台超算并不是比来才开始打造。  
据微软表现，他们给OpenAI提供这台超算曾经有3年之久，而ChatGPT也恰是基于这台超算提供的算力训练的。  
这是由于，OpenAI在最后磋商与微软协作时，已经就算力方面的事件进行过协商。  
OpenAI以为，假如微软想给本人提供算力，就必需在Azure云计算平台上“腾出”一部份微小的算力独自给它们使用，且确保它们不与Azure提供的其余办事发生冲突。  
     微软容许了这一前提，特地给OpenAI提供了一台超算，用于各种大模型训练。  


  
△图源：微软   
固然，微软也不是白白给OpenAI提供超算办事的，面前确定有本人的考量。  
其一，吸引更多企业来使用Azure训练本人的大模型。微软履行副总裁Scott Guthrie表现：  
虽然它是OpenAI的定制版，但一样具备某种通用性，任何企业均可以基于这类形式来训练本人的大言语模型。
    虽然它是OpenAI的定制版，但一样具备某种通用性，任何企业均可以基于这类形式来训练本人的大言语模型。  
其二，间接在Azure中提供OpenAI模型办事 （Azure OpenAI Service）。   
此前包罗GPT-3、Codex和DALL·E 2等模型，都曾经接入Azure。  
至于纳德拉1月份立的“要把ChatGPT参加Azure办事”flag，目前也曾经完成。  


官网还特地给ChatGPT相干办事贴了个高亮标签：  


这波失实是微软用ChatGPT，再次鼓吹了一波本人的云办事 （手动狗头）。   
固然，基于英伟达A100打造的超算也不是微软Azure的最新技术。  
据微软表现，他们还将基于英伟达H100和网络技术，推出Azure最新的AI虚构机产品。  
国际ChatGPT云厂商现状？   
那末，国际云厂商是不是会由于ChatGPT被带动起来一波？  
事件其实不如想象中简略。  
目前来看，国际地下表现具有1万张英伟达A100的企业只要 幻方量化。   
据幻方官网显示，2022年3月因为需求开展量化金融业务，他们构建了一个名为萤火二号的AI集群，具有一万张英伟达A100。  
至于其余企业，据《财经11人》引见，国际GPU持有量超过1万张的企业不超过5家，即便范围最大的企业也不超过5万枚，并且这外面有不少都是英伟达中低端数据核心芯片。  
显然，比拟微软能给ChatGPT投入少量算力、或是像Facebook和谷歌同样动辄能推销几千上万张GPU，算力是国际厂商做ChatGPT的另外一大难点。  
在以ChatGPT为代表的大模型技术上，软硬件都还有不少难关要霸占。  
— 完—   
3月29日「中国AIGC产业峰会」  
抢票开启  
「中国AIGC产业峰会」定档3月29日，线下会场抢票开启！  
百度 袁佛玉、智源 林咏华、澜舟科技 周明、小冰 徐元春、科大讯飞 高建清、启元世界 袁泉、云舶科技 梅嵩、特赞 王喆、微软 关玮雅、源码资本 黄云刚、元语智能 朱雷、无界Ai 马千里、Tiamat 青柑、峰瑞资本 陈石等来自产学研界大咖佳宾，还有重磅佳宾陆续确认中。   
扫描下方二维码，报名峰会线下会场啦～  
点这里 ?关注我，记得标星哦～   
一键三连「分享」、「点赞」和「在看」  
科技前沿停顿日日相见 ~