跳到正文
Hugging Face Blog·· 12 天前同事件AI 评分61

TorchNeuron 性能分析(第一部分):AWS Trainium 上的系统级分析

Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.

AI 导读

TorchNeuron 性能分析教程以 RMSNorm 为例,演示在 AWS Trainium 上配置 torch.profiler、解读 key_averages(),并追踪算子从框架调度到 NeuronCore 硬件执行。

同一件事,精选收录的是《TorchNeuron 在 AWS Trainium 上的系统级推理性能分析教程》

来源:Hugging Face Blog · huggingface.co