MicrosoftのONNX Runtime が 1.0 に

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

MicrosoftのONNX Runtime が 1.0 に

cloudblogs.microsoft.com

そんでもって、現状でサポートしている Proviser は、 9個。これに、Arm Compute Library (CPU)がPRされています。

これで、MicrosoftのOnnxRuntimeは、
・CPU
・MKLDNN
・nGraph
・OpenVINO
・NUPHAR (TVM & CPU)
・DirectML (DirectX？)
・CUDA
・TensorRT
・Android NN APIs
・Arm Compute Library (CPU)
が利用できるようになりました。
Glowはどうなるのかな？

— TensorFlow Lite DelegateとTensorFlow Select (@Vengineer) November 6, 2019

 よく見ると、

MKLDNN、nGraph、OpenVINO、NUPHARは、x86-CPU

CUDA、TensorRTは、NVIDIA GPU

Android NN APIs、Arm Compute Library は、Arm (NEON)

で、その他は、OpenVINOのVPUやDirectMLぐらいなんですね。

しかしながら、ONNX Runtime の API を使っていれば、Runtimeの環境を後から変えられるのはかなりのメリットじゃないですかね。