导语
要点
- com/ais-growth-calls-for-useful-it-efficiency-metrics/ 发布时间： 2025 年 9 月（Yotta 20
- 企业希望最大化 IT 硬件的资本支出和运营支出的回报，而监管机构和当地社区需要确信投入数据中心的能源得到了有效利用
URL： https://journal.uptimeinstitute.com/ais-growth-calls-for-useful-it-efficiency-metrics/
发布时间： 2025 年 9 月（Yotta 2025 大会）
数字基础设施行业正面临压力，需要衡量和改善支撑数字服务的计算工作的能源效率。企业希望最大化 IT 硬件的资本支出和运营支出的回报，而监管机构和当地社区需要确信投入数据中心的能源得到了有效利用。这些目标需要一个生产力指标来衡量 IT 硬件每单位能量执行的工作量。
随着生成式 AI（GenAI）预计将大幅推高数据中心的电力需求，其重要性可以说从未如此之高。幸运的是，监控其 AI 应用性能和效率的组织，可以从超算领域的经验中获益。
2025 年 9 月，Uptime Intelligence 在拉斯维加斯举行的 Yotta 2025 大会上参与了一场关于 AI 能源效率的专题讨论。小组成员利用他们在超算领域的丰富经验，就 AI 训练效率的讨论发表了见解。他们讨论了衡量 AI 训练效率所需的生产力指标，以及组织需要考虑的一个关键注意事项。
Uptime Intelligence 和 The Green Grid 等组织已发布了针对各类 IT 计算工作容量的指导指南。软件应用及其支撑的 IT 硬件差异巨大，因此在可预见的未来，就单一指标来比较能源性能达成共识仍遥不可及。然而，在一段时间内跟踪特定设施的能源性能非常重要，并且对当今许多组织来说是可实现的。
定义 AI 计算工作
IT 设备的工作容量是计算其在运行应用程序时的利用率和能源性能所必需的。The Green Grid 的白皮书"IT 工作容量指标 V1"提供了计算基于 CPU 的服务器工作容量的方法。Uptime Intelligence 已提出将其扩展到 AI 及其他应用的基于加速器的服务器的方法。
每秒浮点运算次数（FLOPS, Floating Point Operations Per Second）是基于 CPU 或加速器的服务器常用且易获取的工作容量单位。2025 年，一台 AI 服务器的容量通常达到数万亿 FLOPS，即 TFLOPS。
并非所有 FLOPS 都相同
尽管大规模 AI 训练正在从根本上重塑许多商业数据中心，但底层的软件和硬件并非全新。AI 训练本质上是超算的众多应用之一。超算软件，以及 IT 选择和配置，在多个方面存在差异——而在监控能源性能时，最相关的变量之一是浮点精度。
GPU 和其他加速器可以执行 64 位、32 位、16 位、8 位和 4 位计算，有些可以使用混合精度。虽然计算流体动力学等高性能计算（HPC, High Performance Computing）工作负载可能使用 64 位（"双精度"）浮点计算来追求高精度，但其他应用程序没有如此严苛的要求。较低精度每次计算消耗的内存更少——关键是，消耗的能量也更少。与大多数工程和研究应用不同，当今的 AI 训练和推理计算通常使用 4 位精度。
在评估 TFLOPS 基准时，浮点精度是必要信息。64 位精度计算的 TFLOPS 值是 32 位 TFLOPS 值的一半——或者说是 4 位 TFLOPS 值的十六分之一。为了保持 AI 工作容量计算的一致性，Uptime Institute 建议 IT 运营者使用 AI 服务器提供商提供的 32 位 TFLOPS 值。
计算每能耗工作量
服务器的最大工作容量计算可以在机架、集群或数据中心的层面聚合。工作容量乘以平均利用率（百分比）可以估算出在给定时间段内执行的计算工作量（以 TFLOPS 计）。运营者可以将此数值除以同一时间段的能耗（以 MWh 计），得出工作能耗效率的估算值，即 TFLOPS/MWh。
即使 TFLOPS 值被归一化到相同的精度，也很难用这些信息在显著不同的硬件类型和配置之间进行有意义的能效比较。加速器的功耗并不随利用率水平线性变化。此外，软件设计的细节将决定实际应用性能与简化的工作容量基准之间的接近程度。
然而，许多组织可以受益于计算这个 TFLOPS/MWh 生产力指标，并且已经具备了充分的条件。这种计算对于量化一段时间内的效率提升最为有用，例如来自 IT 更新和整合，或运营控制的优化。在某些司法管辖区，将 FLOPS/MWh 作为生产力指标进行跟踪可以满足部分监管要求。
Uptime Intelligence 观点
生成式 AI 训练将推高数据中心的能源消耗，引发了对监管、负责任的资源使用和投资回报的要求。一个生产力指标可以通过一致地量化每单位能量执行的计算工作量来帮助实现这些目标。超算专家同意运营者应跟踪并使用这些数据，但他们警告不要在没有必要背景的情况下进行解读。一个简化的、实用的每能耗工作量指标对于跟踪单个设施在一段时间内的改进最为有用。