ONNXRuntime に Xilinx Vitis AI Provider が登録されていた

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった 

いつものように、ぶらぶらしていたら、ONNXRuntimeのProvider に Xilinx の Vitis AI が登録されているのに気が付きました。

github.com

vitisai_custom_op.cc の中身覗いてみたら、何やら、知らないコード。。。

rt_mod_ = pyxir::build_rt(xg_, backend_type_, in_tensor_names_, out_tensor_names_,
"vai", run_options);

 pyxir って、なんだ。。。教えて、Google君。。。。。出てきた。

github.com

PyXIR is an Neural Network Intermediate Representation (IR) for deep learning. It is designed to be an interface between deep learning frameworks and neural network hardware accelerators, specifically Xilinx Vitis-AI FPGA based accelerators like DPU.

お、DPUを Vitis-AI で使うときのライブラリなのね。。。

• ONNXRuntime
• TVM Open Deep Learning compiler stack (coming up)

お、TVM のサポートもしているのね。

サポートする DPU は、

• DPUCADX8G (formerly DPUv1)
• DPUCZDX8G (formerly DPUv2)

現時点では、ONNXRuntime framework では、DPUCADX8G のみサポート。