ローカル環境でのAIモデルの実行は、リアルタイム性が要求されデータ機密性が高いエッジAIアプリケーションに不可欠ですが、現在の開発および展開手法は互換性とサポートの課題に直面しています。
当社の柔軟なSDKは、TFLite, PyTorch and ONNXモデルを即座にサポートでき、CPU、GPU、NPUをターゲットにしています。
モデルを事前にコンパイルし、新しいレイヤや一般的でないレイヤもサポート可能です。この広範なカバレッジにより、多様なハードウェアでモデルを確実に実行できます。
シンプルに設計されたSDKはPythonと簡単に統合できるため、組み込みの専門知識がない開発者でも導入が可能です。
内蔵コンパイラは、エッジAIにとって重要な性能要素であるメモリ使用量とレイテンシを最適化し、エッジでの効率的で実世界に即した推論を可能にします。
