AI基础设施架构师：构建可扩展的AI工厂

本课程包含人工智能的使用。

AI平台远不止是GPU的集合。其性能、可靠性、安全性和成本取决于工作负载、计算节点、网络架构、存储、供电、冷却、软件平台和运维如何协同工作。本课程帮助基础设施专业人员理解这些依赖关系，并基于证据而非营销宣传做出架构决策。

《AI基础设施架构师：GPU集群与数据中心》是一门厂商中立的大师级课程，涵盖AI基础设施的设计、选型、评估、安全防护和运营。它面向企业、云、电信、网络和数据中心专业人士，帮助他们支持模型训练、微调、LLM推理、检索增强生成、图像和视频生成、多模态AI以及智能体工作负载。

从工作负载发现开始，您将学习模型规模、精度、内存、批处理行为、吞吐量、延迟、利用率和数据移动如何影响基础设施需求。然后，您将把这些需求与CPU、GPU、加速器、高带宽内存、主机连接、纵向扩展架构和机架级系统联系起来。

本课程探讨以太网和InfiniBand网络架构、RDMA和RoCEv2、拓扑与拥塞、并行存储、数据集移动、检查点，以及供电和冷却的物理现实。在此基础上，您将研究使用Kubernetes和Slurm的编排、分布式训练、模型服务、KV缓存行为、请求调度、云和主权AI部署选项，以及平台安全性和可观测性。

一个主要重点是实用的架构判断力。您将学习为内存、训练和推理容量、网络和存储性能、机架功率和设施需求进行选型；比较替代方案；审视总拥有成本；并定义有意义的基准测试、RFP要求和生产验收标准。

虚构的FalconCore主权AI工厂顶点项目贯穿完整生命周期，从业务需求、GPU网络架构设计，到存储、设施规划、模型服务、安全、运维和采购。您无需具备高级机器学习数学知识即可学习本课程。重点在于清晰的推理、假设、权衡取舍和可辩护的设计决策。

由Cyvitrix Learning创建 | PMP、Security+、CISSP、CISA、CISM、GRC、CGRC、SSCP培训。
课程时长：8小说20分钟 1920X1080 mp4 语言：英语+AI中英文字幕 含中文朗读版本

您将学到什么
⚡ 将AI业务用例转化为可衡量的基础设施和服务需求。
⚡ 解释训练、微调、LLM推理、RAG、图像、视频和智能体工作负载的特征。
⚡ 评估CPU、GPU、AI加速器、HBM、PCIe、CXL和完整计算节点。
⚡ 评估以太网、InfiniBand、RDMA、RoCEv2、拥塞、光模块和AI网络架构。
⚡ 为数据集、检查点、模型服务和检索设计存储与数据路径。
⚡ 规划机架功率、电力韧性、风冷和液冷，以及设施就绪度。
⚡ 比较Kubernetes、Slurm、GPU调度、配额、自动化和多租户。
⚡ 解释分布式AI训练中的数据并行、张量并行、流水线并行和专家并行。
⚡ 为延迟、吞吐量、批处理、KV缓存和可扩展性设计推理服务。
⚡ 整合零信任、供应链保护、可观测性、可用性和恢复能力。
⚡ 计算容量、总拥有成本和架构决策的假设条件。
⚡ 评估RFP、厂商声明、基准测试、概念验证结果和验收测试。
⚡ 通过FalconCore顶点项目构建并论证完整的AI工厂设计。

要求
❗ 建议具备服务器、网络、云基础设施、存储或数据中心技术的一般 familiarity。
❗ 对企业架构或基础设施运维的基本理解将有助于您串联设计决策。
❗ 无需高级AI数学、模型训练经验或此前的GPU集群部署经验。
❗ 电子表格或计算器有助于跟随时选型和总成本练习。
❗ 学习架构材料不需要专用GPU、AI数据中心和付费云订阅。

本课程适合谁
⭐ 进入AI基础设施设计领域的企业、解决方案、云、基础设施和数据中心架构师。
⭐ 从事高性能AI网络架构和边缘平台的网络与电信架构师。
⭐ 寻求端到端架构视角的系统、GPU、HPC、存储、平台和MLOps工程师。
⭐ 支持更高密度AI部署的数据中心电力、冷却、设施和运维专业人员。
⭐ 负责保护AI基础设施和服务安全的网络安全与韧性架构师。
⭐ 评估AI基础设施投资和提案的技术决策者、采购团队和顾问。