Skip to content

高効率動的バッチ推論のための TensorRT Classification#

目的#

このパッケージは TensorRT を利用して任意のカテゴリの分類を実施し、高効率・高速推論を実現します。具体的には、組み込みプラットフォームの効率的な推論のための前処理を最適化します。さらに、GPU と DLA での動的バッチ推論をサポートします。