#主题/ML-Sys

SparseTIR 与 SparTA 的实验复现

由于在 Windows 下开WSL和IDE导致电脑内存已经吃不消了，所以我直接把电脑系统刷成了 Linux （彻底疯狂了），这里记录一下我的配置过程

这里记录了我在 ICT 的实习历程，实习的时间为 2023-06-01 到 2023-07-10 实习的内容包括两部分： 稀疏矩阵在 AI 编译器中的应用 这里，主要调研了几篇文章： 然后简单复现了一下后面两篇文章，可以参考 项目制 项目的内容需要保密，所以只能说说学习的内容，主要是学习了 的编译流程，包括如何映射到 Triton 算子的部分（但这部分本质上还不是很清晰，包括 Loop-Level IR 的 Loop 体现在什么地方）

SparseTIR 解读（论文、源码 ） Introduction 以Halide/TVM为代表的张量运算编译器，引入了计算与调度分离的概念，使得大家可以只用写一套计算描述(Tensor Expression，只与计算的数学形式有关)，用不同的调度原语(Schedule Primitive)来描述如何去优化程序(如何做矩阵分块，绑定线程，利用缓存，设计流水线，利用硬件的加速单元)，这个过程可以手动，也可以利用自动化的调度模板生成（例如 AutoTVM）并搜索，从而为不同的硬件

介绍如何在一台只有 docker 的环境的服务器下配置 tvm 运行环境

SparTA 解读（论文、源码 与 复现 ） Introduction 明确论文发表的时间为 2022 年，在这个时间段，算力的提升使得 DNN 的层数能够越来越深，模型越来越复杂。

关于 PyTorch2.0 中对 Dynamo 的解析