普通机架服务器上架,一个人推着机器进机房,半天就能办完。GPU 服务器上架是另一套流程:重量、深度、电源口型、管理网、烤机环节,五处都比普通机器讲究。这篇文章按上架的先后顺序把这五处拆开讲,托管前照着准备,能少跑几趟机房。重资产 一台八卡 GPU 服务器裸机三四十公斤,加上包装超过五十公斤,两个人抬着走货梯。下单前先跟机房确认三件事:货梯的载重和轿厢尺寸、从卸货区到柜位的通道宽度、...
挑机柜的时候,电力规格常被当成一个不起眼的参数扫过去,等设备上架跳了闸才回头研究。机柜的 6A、10A、20A 三个数字,直接决定柜子里能放几台什么设备。这篇文章把每个规格换算成功率,再逐档对到设备清单上,末尾附上对号之外还要核的两处细节,照着算一遍就够用。三个安培,先换算成功率 220V 电压下:6A 约合 1.3 千瓦,10A 约合 2.2 千瓦,20A 约合 4.4 千瓦。这...
自己买 GPU 服务器托管到机房,应该注意什么呢?挑错机房,硬件再好也跑不满:供电带不动就跳闸,散热跟不上就降频,网络不通多机训练直接趴窝。签约前先把服务器托管的基础服务范围弄清楚,再谈 GPU 的特殊要求。这篇文章把电力、制冷、网络三个硬指标拆开讲,每个都配上能现场动手验证的办法,照着逐项过一遍再决定。电力:一块八卡机器,普通机柜扛不住 先算账。一台八卡 GPU 服务器整机功耗普...
高电机柜主要适用于哪些行业呢?例如:AI 训练和推理、大数据与存储、超融合整合,这些选柜各看什么,如何选择,下面详细介绍一下。AI 训练和推理租用柜子同样是 AI,训练和推理对柜子的要求差着一截。训练机器长时间满载,八卡整机功率三到六千瓦是常态,这种就该进双路供电的高电机柜,散热按满载留余量,具体功率账在GPU 服务器为什么必须用高电机柜那篇算过,不重复。推理不一样。推理服务的负载是脉冲...
这两年看机房介绍,"液冷"两个字出现的频率越来越高,好像不上液冷就落伍了。咨询机柜的客户里,也有人开口就问"有没有液冷",再问业务,一台双卡推理机——风冷就能带走的热量,用不上液冷。这篇文章把液冷讲透:它是什么、风冷为什么有上限、哪些业务真需要、代价是什么,看完你再判断自己是不是跟风。液冷是什么:让水替风去搬热量先说原理。机房散热的本质是把设备产生的热量搬走,风冷用空气搬,液冷用液体搬。...
随着人工智能的快速发展,GPU 服务器的需求与日俱增,十有八九会走到托管这一步:机器太贵放办公室不放心,机房有恒温恒湿和备电,托管进去按月付机柜费就行。多数人以为这事到机柜询价就结束了,真正卡住的环节往往在后面——机房一看设备功率表,告诉你普通机柜装不下,得走高电机柜。为什么要换柜?这篇文章就用一笔功率账,从头算给你看。先算整机的瓦数算账的起点是单卡。现在主流的训练卡,单卡功耗在 300...
一个常被问懵的现象:同一台服务器,从机房里另一台机器拉一个几十 G 的备份,几分钟跑完;公网用户下载一个几百兆的文件,却要排队等半天。机器没变、硬盘没变,变的是走的那条道——内网和出口,是两条带宽完全不同的路。把这两条道分清楚,带宽的钱能省不少,架构也会设计得更合理。两条道,两种价钱内网带宽是机房内部机器之间的通路,千兆起步、万兆也常见,走的是交换机,速度接近线速,机房一般不另外收钱。应...
租服务器时报价单上常有一行"独立 IP 加多少钱",很多新手看不懂:不都是能访问吗,为什么要多花钱。差别在于——共享 IP 是一台机器上几个用户共用一个门牌号,邻居干的事记在同一个门牌上;独立 IP 是门牌只有你一家。这篇文章讲清楚独立 IP 到底多了什么用、哪些业务值得加、加 IP 的流程怎么走,看完就能对号入座。独立 IP 实际多出来的四样东西信誉隔离。共享 IP 上有邻居发垃圾邮件...
聊到服务器安全,防火墙和 WAF 这两个词经常被混着说,不少人以为装了一个,另一个就不用管了。实际上这两样防的不是同一层:防火墙守的是服务器的门——端口和 IP;WAF 守的是网站的窗——一个个 HTTP 请求。门守得再严,窗没关,注入语句照样进得来。这篇把两层各挡什么、漏什么讲清楚,再给一套宝塔上的具体搭法。一个看端口,一个看请求防火墙工作在网络层,判断依据是 IP 和端口:22 端口...