Xnor.ai Binarization with OpenVINO

@Vengineerの戯言 : Twitter
SystemVerilogの世界へようこそ、すべては、SystemC v0.9公開から始まった

Xnor.ai Binarization with OpenVINO™

タイトルだけみたら、BinarizationをサポートしたHardwareをOpenVINO対応したのかな？と思っていたら、
Intel Core-i5 で Xnorの Binarization を使って、OpenVINO対応したって。

結果は、

　・Full 32FP on TensorFlow
　・Full 32FP on OpenVINO
　・Xor binarization on OpenVINO

のベンチマークで、精度は2～3％落ちたけど、パフォーマンスは3倍以上になったと。。

32FP から Binarization にしたのは、Convolution。。。

ちょっと調べてみたら、Release Notes for Intel® Distribution of OpenVINO™ toolkit 2019にちょっと書いてあった。

　[NEW] resnet50-binary-0001. 

　This is a classical classification network for 1000 classes trained on ImageNet.
　The difference is that most convolutional layers were replaced by binary once 
　that can be implemented as XNOR+POPCOUN operations.
　Only input, final and shortcut layers were kept as FP32, 
　all the rest convolutional layers are replaced by BinaryConvolution layers.

とあるので、この部分なのかな？