先写下自己的理解，然后让 AI 给出一个更严谨的定义（文档里也提到了“AI chat的回答”），最后结合两者的差异，提炼出你自己的、最直观的总结。

8/24

1.AI Infra是什么

我个人认为：是用以提供AI进行运算的基础设施架构，类似于用以开车的高速公路基础设施等等，我也看过相关人士对这个AI Infra的理解，就是类似于给火车铺设铁轨

（AI Infra 不仅负责让AI跑起来，还负责让它能够高效、稳定、规模化地运行）

AI chat 的回答：AI Infra是一套为人工智能模型的数据处理、训练、部署、推理和运维提供计算、存储、网络、软件平台及相关管理能力的基础设施体系。

拓展部分

拓展部分：

摩尔定律指出，集成电路上可容纳的晶体管数量约每18到24个月翻一倍，性能提升同时成本下降。

Kubernetes（简称 K8s）是一个开源系统，用于自动部署、扩展和管理容器化应用程序。它被广泛用于容器编排，帮助开发者和运维人员高效管理大量容器。

2.推理引擎（vLLM / SGLang / TensorRT-LLM）方向

这个方向的目标是把训练好的模型高效地部署上线，榨干每一分硬件性能

AI Infra 的训练方向

这个方向的目标是让大模型能在成百上千张GPU上高效、稳定地完成训练

8/25

自学第二天

早上看了路飞哥的Guide中关注transformer的原理

晚上在平台组算力跑nano-vLLM项目争取PR以及魔改一下

中间还跑通了nanoGPT的小项目，大概了解了一下大模型的工作流程