人工智能驱动数据中心向边缘拓展
内容来源 :
发布日期 : 2024-10-15
在过去一年，人工智能如数字复兴般迅猛发展，可与 20 世纪 90 年代末互联网的快速变革性崛起相媲美。它以惊人速度重塑行业，重新定义日常生活，且其影响在未来几年会愈发显著。2023 年，对生成人工智能的投资达 252 亿美元，约为 2022 年的 9 倍、2019 年的 20 倍。
这种快速增长为数据中心公司带来创新契机、拓展服务产品及满足人工智能驱动的应用程序和企业不断变化需求的机会。通过采用人工智能技术并调整基础设施与运营，数据中心在推动人工智能于各行业广泛应用及成功方面发挥关键作用。
然而，人工智能的融入也带来一系列挑战。当前人工智能需 4.3GW 的数据中心电力，预计到 2028 年将达 18GW。这一增长远超当前数据中心电力需求增长率，给容量和可持续性带来难题。人工智能要求数据中心不仅要扩展，还需从根本上变革架构，包括专业 IT 基础设施、电力和冷却系统。
为可持续的人工智能数据中心提供动力
到 2028 年，人工智能工作负载增长速度预计为传统数据中心工作负载的两到三倍，占所有数据中心容量的 15% 至 20%。更多工作负载将靠近边缘用户，以减少延迟、提升性能。
训练大型语言模型通常需数千个图形处理单元（GPU）协同工作。大型 AI 集群中，集群规模从 1 兆瓦到 2 兆瓦不等，机架密度根据 GPU 型号和数量在 25 千瓦到 120 千瓦之间。这些特性极大影响机架功率密度，给数据中心带来巨大基础设施挑战。目前，多数数据中心仅能支持约 10 至 20 千瓦的机架功率密度。
数据中心必须适应以有效且可持续地满足人工智能驱动应用程序不断变化的电力需求，因此优化物理基础设施以满足人工智能要求至关重要。从低密度配置向高密度配置转变可助力应对这些挑战。
声明：本站所使用的图片文字等素材均来源于互联网共享平台，并不代表本站观点及立场，如有侵权或异议请及时联系我们删除。
