【Intel Arc】PyTorchがIntel GPUのサポートを開始したのでIntel Extension for PyTorchの存在価値はもうないと思っていました。しかし画像生成においては明らかにIntel Extension for PyTorchのほうが速かったです。

native PyTorch (torch==2.5.1+xpu)

text_encoder:
torch.xpu.max_memory_allocated: 9.32 GB

transformer:
torch.xpu.max_memory_allocated: 13.18 GB

time: 378.92 sec

native PyTorch (torch==2.6.0+xpu)

text_encoder:
torch.xpu.max_memory_allocated: 9.32 GB

transformer:
torch.xpu.max_memory_allocated: 11.28 GB

time: 253.20 sec

Intel Extension for PyTorch (torch==2.5.1+cxx11.abi)

text_encoder:
torch.xpu.max_memory_allocated: 9.32 GB

transformer:
torch.xpu.max_memory_allocated: 8.93 GB

time: 130.39 sec

VRAM使用量にも差がでています。

比較したスクリプトはこちらの記事のものです。
FLUX.1-devで画像生成を行っています。
touch-sp.hatenablog.com

関連記事

touch-sp.hatenablog.com