人工智能（AI）正在迅速改变各个行业，从医疗保健到金融再到制造业。人工智能的进步取决于机器学习（ML）和深度学习（DL）等技术，这些技术需要大量数据和计算能力。这反过来又对服务器宽带的要求提出了很高的要求，特别是对于托管 ML 和 DL 模型的大型数据中心。
机器学习和深度学习对带宽的需求
机器学习和深度学习模型需要大量的训练数据。这些数据可以是文本、图像、视频或音频形式。对于大型模型，训练数据量通常达到数 TB 甚至数 PB。ML 和 DL 模型通常需要在分布式系统中训练，其中数据和计算在多个服务器之间分配。这需要高带宽网络来促进数据和模型参数的交换。
除了训练数据之外，ML 和 DL 模型还需要大量的计算能力。这可以通过 GPU 或 TPU 等专用硬件来实现。这些设备也需要与服务器宽带相连，以便将计算结果传输回中央服务器。
服务器宽参考文献
- Google Cloud Compute Engine Bandwidth Limits
- Azure Virtual Machines General Purpose Sizes
- Amazon EC2 Instance Types
