ディープラーニングモデル自動最適化・圧縮ソフトウェア Neutrino™ DNNモデルをオンプレミス環境でシンプルかつ容易に自動最適化
Neutrino™ は、カナダ Deeplite 社が開発した、ディープラーニングモデル最適化ソフトウェアです。自社内の DNN モデルとデータセットを Neutrino™ に設定し、コマンドを一つ実行するだけで、自動的に最適化した DNN モデルを生成します。
最適化された DNN モデルは、元の精度を保ったまま劇的に圧縮されるため、これまで大きな負担となっていた精度の維持と最適化のバランスをとるための試行錯誤が不要となります。これによって、通常6か月程度かかる工程を数日に短縮できたケースもあります。また、Neutrino™ が実現する高い圧縮率が、エッジ / IoT 機器といったメモリサイズの小さい機器への AI アプリケーションの搭載を可能にします。
主な特長
DNN モデルをオンプレミス環境で自動的に最適化
- トレーニング済みの DNN モデルとデータセットを設定するだけで、Neutrino™ が自動的に最適化するため、開発期間の大幅短縮とコスト削減を実現
- オンプレミス環境用のため、自社内で使用可能
- 使用プラットフォームやフレームワークにあわせた最適化が可能
優れた圧縮率
- 256 KB のチップメモリー上でも AI アプリケーションを実行可能
使い易さ
- ソフトウェアのインストールが容易
- コマンド上で必要なパラメータを一行設定して実行するだけで、自動的に最適化したモデル(ONNX)を出力
分析結果
- 最適化後のモデルについてのレポートのほか、圧縮率、精度などのレポート結果を出力
優れた柔軟性
- 組込みフレームワーク、プラットフォーム非依存
Neutrino™ Demo
Neutrino™ 動作推奨環境
- 対応フレームワーク PyTorch v1.8.1以下
- OS Ubuntu 16.04以上
技術サポート
専任の担当者による技術サポートを提供します。