手机浏览器扫描二维码访问
本小章还未完,请点击下一页继续阅读后面精彩内容!
举个直观的例子:同样大小的芯片,5nm芯片比14nm芯片能多装好几倍的晶体管,计算速度能提升30%以上,耗电却能减少50%。这对AI来说太重要了——AI需要长时间、高强度计算,芯片又快又省电,就能让AI服务器不用频繁断电散热,还能降低成本。
再说说“架构创新”。以前芯片多是“通用架构”,比如CPU的x86架构、ARM架构,能处理各种任务,但面对AI的“并行计算”需求(也就是同时处理大量数据),效率就不够高。所以现在专门为AI设计的“专用架构”越来越多,比如NPU(神经网络处理单元)。
NPU的设计思路很简单:AI最常用的是“神经网络计算”,就像人脑的神经元一样,需要大量“重复且相似”的计算。NPU就专门优化这种计算,去掉了通用架构里用不上的功能,把所有“力气”都用在神经网络计算上。比如手机里的NPU,能快速处理拍照时的图像优化、人脸识别,比用CPU处理快好几倍,还不耗电——这就是“专芯专用”的优势。
现在的芯片,就是“先进制程+专用架构”双轮驱动,既保证了计算速度,又提高了AI任务的处理效率,成了算力升级的“核心引擎”。
2. 服务器:算力的“运输车”,装得越多、跑得越稳
如果说芯片是“心脏”,那服务器就是算力的“运输车”——芯片产生的算力,要靠服务器整合、输出,才能供AI使用。现在的服务器,主要往“装得多”(高密度)和“不趴窝”(高可靠性)两个方向发展,尤其是AI服务器,更是如此。
先看“高密度”。AI需要的算力特别大,一台服务器里装的芯片越多,能提供的算力就越大。以前的普通服务器,最多装2-4块GPU,而现在的AI服务器,能装8-16块GPU——就像以前的卡车只能装2吨货,现在的卡车能装16吨货,运输效率直接翻了好几倍。
比如2023年的时候,全球AI服务器市场规模同比增长了80%以上,很多科技公司比如谷歌、百度、阿里,都在大量采购这种多GPU的AI服务器,就是为了满足大模型训练的需求。一台能装16块GPU的AI服务器,一次能处理的数据量,比普通服务器多十几倍,大大缩短了大模型的训练时间——以前可能要几个月才能练完的模型,现在几周就能搞定。
再看“高可靠性”。AI的计算任务往往不能中断,比如训练一个大模型,要是服务器中途坏了,之前的计算成果可能就白费了,得重新开始。所以现在的服务器都做了“冗余设计”——比如关键部件(电源、风扇、硬盘)都装两个,一个坏了另一个能立刻顶上;还有“故障预警系统”,能提前检测到服务器的问题,比如某个部件温度太高,会自动报警并调整,避免突然“趴窝”。这种高可靠性,保证了AI计算能连续不断地进行,不会因为硬件故障耽误事。
3. 数据中心:算力的“仓库+调度站”,又绿色又高效
数据中心就是存放服务器、存储数据、调度算力的地方,相当于算力的“仓库”和“调度站”。现在的数据中心,不只是“堆服务器”,而是往“绿色化”和“集约化”发展,既要提供足够的算力,又要减少能耗、提高效率。
先说说“绿色化”。数据中心里有大量服务器,这些服务器运行时会产生很多热量,需要空调散热,所以耗电特别大——以前的 data center,每提供1单位的算力,可能要消耗1.5单位以上的电(用PUE值衡量,PUE=总耗电量/算力耗电量,越接近1越省电)。现在为了减少能耗,都在用“液冷技术”——不是用空调吹,而是用特殊的冷却液直接接触服务器,散热效率比空调高好几倍,能把PUE降到1.1以下。
举个例子:阿里在张北建的数据中心,用了液冷技术后,PUE只有1.09,也就是说,每提供100度的算力用电,总共只消耗109度电,比传统数据中心省了40%以上的电。这对AI来说很重要,因为AI需要长期占用大量算力,省电就等于省成本,还能减少碳排放,符合绿色发展的要求。
再说说“集约化”。以前的数据中心大多建在大城市,但大城市的土地、电力成本高,而且数据传输距离远,会有延迟。现在都在搞“边缘数据中心”——把小型数据中心建在靠近用户或设备的地方,比如城市的基站旁边、工厂的车间里、高速公路的服务区里。
这样做的好处很明显:数据不用传到远处的大型数据中心,能在本地处理,减少传输延迟。比如在自动驾驶场景里,车辆需要实时处理路况数据(比如前面有没有车、红绿灯是不是红灯),如果数据要传到几十公里外的数据中心,再传回来,哪怕只有1秒的延迟,都可能引发事故。而边缘数据中心就在路边,数据处理的响应时间能控制在毫秒级(1毫秒=0.001秒),相当于“即时反应”,能保证自动驾驶的安全。
本小章还未完,请点击下一页继续阅读后面精彩内容!
现在的数据中心,就是通过“绿色化”降成本、减排放,通过“集约化”缩延迟、提响应,成了算力的“稳定后方”,让算力既能持续输出,又能高效到达需要的地方。
三、算力怎么用得好?边缘计算+调度平台,打破“算力孤岛”
有了算力,也有了硬件支撑,还得解决一个问题:算力不能“浪费”。现在很多地方都有算力,但有的地方算力不够用(比如东部大城市),有的地方算力用不完(比如西部偏远地区),就像有的地方水多泛滥,有的地方水少干旱,这就是“算力孤岛”。要解决这个问题,就得靠算力网络建设——核心是“边缘计算”和“算力调度平台”,一个让算力“靠近用户”,一个让算力“按需分配”。
1. 边缘计算:把算力“搬”到用户身边,减少延迟更安全
哨兵为何如此有病小说全文番外_王向屹夏梦哨兵为何如此有病,...
【清冷受X温柔攻=酸涩暗恋X年龄差X极限拉扯】 林简8岁时家庭突遭变故,被20岁的沈恪带回了沈家大宅。 沈恪为人温柔又理智,养起孩子来也是宽严相济。 林简跟在沈恪身边整整十年,外人都知道他对自己的小叔叔高山仰止 却不知道,禁忌般难以言说的痴妄,早在经年陪伴中发了芽 他养大他,而他爱上他。 十八岁成人礼的那个夜晚,向来沉静清冷的林简鼓起勇气问沈恪: “已经十八岁了,真的没可能吗?” 沈恪温声叹息,给他了最温柔也最理智的回答 “你多少岁都是我养大的孩子,是我的家人。” 后来林简一走五年,音讯全无。 再见面时,林简将所有的痴心妄念全部收敛,乖觉地维持着“家人”人设。 沈恪却看着眼前的青年,眸光微动,自嘲笑道: “没想到我这么大年纪了,还要重新学着追人。” 林简:…… 追谁? 叔,你不是说咱俩是一家嘛? 后来—— 沈恪笑着问他: “说说看,怎么舍得答应我了?” 林简冷着一张脸,耳廓滚烫地逞强回答: “追人不容易,看你年纪大,怕你顶不住,不行吗?” 沈恪若有所思地点点头:行吧。 再后来—— 眼尾微红的林简半张脸都埋在枕上,咬牙低骂: “我说的……是这个顶不住吗?!” 沈恪温沉的笑意落在他的耳畔,哄人的声音微微喑哑: “我年纪大,理解偏差。” “不过,大你12岁又不是12寸……” “乖一点,别怕。” “……” #是家人,也是爱人# #我的世界本是一片残垣断壁,你用爱重塑,废墟便是欢城# #我那些滚烫而隐秘的爱意,就在尘埃之中,开出一朵幽静的花# 排雷:从幼年开始顺叙,现实向文风,细水长流式写法,微慢热。 主角无血缘、不在一个户口本上,没有任何法律意义上的收养、寄养关系,有感情纠葛在成年之后。 接受善意讨论,不接受写作指点,弃文不必告知,有缘江湖再会。...
文案一:七月初七,薛咏二十三岁,丧偶半年,独自吃烛光晚餐,庆祝结婚一周年,夜里突发一场暴雨。 外头有人砸门,他打开门,看到浑身淋湿如落水狗的十三岁少年――他亡夫的弟弟,邢烨然。 走投无路的邢烨然犹如疯狗:“这房子是我哥掏钱买的,我有资格继承我哥的东西。” 他捏着鼻子,接受了这份不驯的遗产。 这一接手,就是一辈子。 文案二:十年后的邢烨然,身材一米九二,已经长大,变得内敛而沉稳。 邢烨然俯身,影子铺天盖地罩下来,把他整个搂在怀中,吻了吻他的耳边,温柔冷静地说:“七哥,你知道在哪看到的景色最美最壮阔吗?在万丈悬崖之沿,在粉身碎骨的边缘。” 薛咏才明白过来,邢烨然依然是条疯狗。从未变过。 ○疯狗变舔狗的精英攻x外强内荏的江湖大哥受,两个人doi的时候,攻是处男,受不是~!! ○角色三观不代表作者三观。不换攻,谢谢。...
《病态沉迷》作者:又浪又慢简介:傅景行,身家千亿,高岭之花,被媒体戏称为壕圈颜值杠把子,行走的荷尔蒙。前半生顺风顺水,直到在26岁那年对年仅20岁的黎荆曼一见钟情。少女白裙黑发,眉目清冷,仰头远远地与他对视,礼貌微笑,他目光深深地看着她,回以一笑。那是她眼中的初遇,却是他欣喜若狂的重逢。他从未尝试过如此喜欢一个人,昼思夜想,只想把她...
元保二十年,天命司连遭三劫。一是江濯下山。二是恶神破封。三是这两位暗通款曲,狼狈为x。假纯情真凶猛的攻vs真疯批野心家的受1v1,he。...
本书名称:主神心尖上的男人本书作者:一只小甜甜本书简介:8.30号入v,入v当天三更,欢迎大家来捧场!心机深沉温柔攻vs又怂又凶小少爷受(阅前提示:攻很强,但道德感不强,马甲众多,三观可能不太正)乔桥穿进了一本书。书里有个每天都奔赴在作死路上的炮灰小少爷,致力于欺压男主不放弃。然而没过几年,落魄男主一朝认祖归宗,竟然摇身一变成...