統合環境DAPDNA-FW II　AIコンパイラ

AIモデルの共通フォーマットONNXについて

　ONNX(Open Neural Network eXchange)はAIモデルを様々なフレームワークやツールで共有できるようにするためのAIモデルのファイル形式です。ONNXはAIモデルをオペレータ(演算子)を組み合わせて表現します。
ONNXのAIモデルを読み込むためには、各種ツールがAIモデルに含まれる全てのオペレータに対応している必要があります。1つでも対応しないオペレータがある場合、そのモデルを読み込むことができません。

AIコンパイラが対応するONNXのオペレータ

　統合環境DAPDNA-FW IIのAIコンパイラはONNXのOpset11までの65種類のオペレータに対応します。「If」や「NonMaxSuppression」などの後処理に必要なオペレータに対応するため、物体検出AIのSSD(Single Shot MultiBox Detector)のような複雑な構造のAIモデルを分割することなく実装することを可能にしています。
※PytorchベースのAIモデル作成プラットフォームから出力されたONNXファイルの入力を想定し、テストしております。

AIコンパイラのAIモデル最適化について

　AIコンパイラはONNXをDAPDNAに実装できるように変換するだけではなく、高速処理を実現するための最適化も行います。特に画像認識や物体検出に使われるオペレータは最適化やDNA処理の対応を積極的に進めています。最適化対象のオペレータには2段階の最適化を行い、最大で95％の処理時間の削減が可能です。
※DAPDNAで推論を行った場合の処理時間の削減率になります。