FastVideo是一个开源框架，旨在加速大型视频扩散模型。

Star-Attention是NVIDIA提出的一种新型块稀疏注意力机制，旨在提高基于Transformer的大型语言模型（LLM）在长序列上的推理效率。

MInference是一个针对长上下文大型语言模型（LLMs）的推理加速框架。

AsyncDiff 是一种用于并行化扩散模型的异步去噪加速方案，它通过将噪声预测模型分割成多个组件并分配到不同的设备上，实现了模型的并行处理。