シングルSoCエッジ/AI/ロボティクス開発モジュールのJetson Orinファミリには、あらゆるレベルの複雑さに対応する6つのオプションがあります。しかし、これまでは一度に1つのモジュールしか使用できませんでした。この記事では、新しいJetson AGX Orin開発キットによって、開発作業を複数のモジュールに分散し、プロセスを合理化して効率を最大化する方法を説明します。
今週のGTCでのJetson Orin Nanoの発表により、Jetson Orinモジュールの全ラインナップが公開されました。最大40 TOPSのAIパフォーマンスを備えたOrin Nanoモジュールは、エントリーレベルのAIの新しい標準を確立します。Jetson AGX Orinは、275 TOPSのサーバークラスのコンピューティング パフォーマンスによって、ロボット工学やその他の自律エッジのユース ケースをすでに再定義しています。
すべてのJetson OrinモジュールとJetson AGX Orin開発キットは、NVIDIA AmpereアーキテクチャGPU、高性能CPU、最新のアクセラレータを備えた単一のSoCアーキテクチャに基づいています。この共有アーキテクチャにより、1つのJetson Orinモジュール用のソフトウェアを開発し、それを他のモジュールに簡単に展開できます。
Jetson AGX Orin開発キットを使用して、Jetson Orinモジュールの開発を今すぐ開始できます。開発キットはあらゆるモジュールのパフォーマンスをネイティブにエミュレートできるため、今すぐに開始して市場投入までの時間を短縮できます。開発キットは、ハードウェア機能とクロックをターゲット モジュールに合わせて構成することで、あらゆるJetson Orinモジュールのパフォーマンスを正確にエミュレートできます。
開発チームは、どのモジュールが本番環境向けであるかに関係なく、必要な開発キットが1種類だけというシンプルさのメリットを享受できます。これにより、CI/CDインフラストラクチャも簡素化されます。ロボット工学、ビデオ分析、またはその他のユースケースを開発する場合でも、この1つの開発キットの機能は多くのメリットをもたらします。
Jetson AGX Orin開発者キットを任意のJetson Orinモジュールに変換します
1つのステップで、Jetson AGX Orin開発キットを任意のJetson Orinモジュールに変換できます。このプロセスにはフラッシュ構成ファイルが提供されます。
Jetson AGX Orin開発キットでJetson Orinモジュールをエミュレートするには、フラッシュ ユーティリティを使用してJetson AGX Orin開発キットをフラッシュする場合と同じ手順に従います。開発キットを強制リカバリ モードにした後、flash.shコマンドライン ツールを使用して新しいイメージでフラッシュします。たとえば、次のコマンドは、開発キットをデフォルト構成でフラッシュします。
$ sudo ./flash.sh jetson-agx-orin-devkit mmcblk0p1
使用する正確なコマンドは、エミュレートする対象のJetson Orinモジュールに適したフラッシュ構成の名前に変更する必要があります。たとえば、Jetson Orin NX 16GBモジュールをエミュレートするには、次のコマンドを使用します。
$ sudo ./flash.sh Jetson-agx-orin-devkit-as-nx-16gb mmcblk0p1
表1に、Jetson Orinモジュールと、それぞれに適したflash.shコマンドを示します。
| エミュレートされるJetson Orinモジュール | 点滅コマンド |
| ジェットソンAGXオリン64GB | sudo ./flash.sh jetson-agx-orin-devkit mmcblk0p1 |
| ジェットソンAGXオリン32GB | sudo ./flash.sh Jetson-agx-orin-devkit-as-jao-32gb mmcblk0p |
| ジェットソン オリンNX 16GB |
sudo ./flash.sh Jetson-agx-orin-devkit-as-nx16gb mmcblk0p1
|
| ジェットソン オリンNX 8GB |
sudo ./flash.sh Jetson-agx-orin-devkit-as-nx8gb mmcblk0p1
|
| Jetson Orinナノ8GB* |
sudo ./flash.sh Jetson-agx-orin-devkit-as-nano8gb mmcblk0p1
|
| ジェットソン オリン ナノ4GB |
sudo ./flash.sh jetson-agx-orin-devkit-as-nano4gb mmcblk0p1
|
Jetson Orin Nanoモジュールのフラッシュ構成は、バージョン5.0.2時点ではNVIDIA JetPackにまだ含まれていません。これらの新しい構成をダウンロードし、ダウンロードしたファイル内の指示に従ってNVIDIA JetPack 5.0.2の上にオーバーレイ パッチを適用してから使用します。
エミュレーションに役立つフラッシュ構成の詳細については、「エミュレーション フラッシュ構成」を参照してください。
フラッシュが完了したら、初期起動と設定を完了します。次に、SDKマネージャーを使用するか、実行中の開発キットのパッケージ マネージャーを使用して、残りのNVIDIA JetPackコンポーネントをインストールできます。
Sudo aptアップデートsudo aptインストールnvidia-jetpack
これで、開発キットが実行され、NVIDIA JetPackがインストールされました。Jetson AGX Orin開発キットは、指定されたJetson Orinモジュールのパフォーマンスとパワーをエミュレートするようになりました。
あらゆるJetson Orinモジュールを正確にエミュレート
このネイティブ エミュレーションは、開発キットをターゲット モジュールで使用可能なクロック周波数、GPUおよびCPUコアの数、ハードウェア アクセラレータに合わせて構成するため、正確です。
たとえば、Jetson Orin NX 16GBモジュールをエミュレートする場合:
- 開発キットのGPUは、最大周波数918 MHzの1024個のCUDAコアと32個のTensorコアで構成されています。
- CPU複合体は、2 GHzで動作する8つのArm Cortex-A78AEコアで構成されています。
- DRAMは16 GBに設定され、帯域幅は102 GB/sです。
- このシステムは、Jetson Orin NX 16GBモジュールでサポートされているものと同じ電力プロファイルを提供します。
デスクトップのトップ メニューからJetson Powerグラフィカル ユーザー インターフェイスを開くと、エミュレートされているターゲット モジュールに応じてシステムが正確に構成されていることがわかります。最大クロックは次のコマンドを実行して設定でき、Jetson Powerグラフィカル ユーザー インターフェイスに変更が表示されます。
sudoジェットソンクロック
図2は、Jetson AGX Orin開発キットをエミュレートされたJetson AGX Orin 64GBモジュールにフラッシュした場合の最大クロック設定後のJetson Powerグラフィカル ユーザー インターフェイスと、Jetson Orin NX 16GBモジュールをエミュレートするためにフラッシュした場合の最大クロック設定を比較したものです。
NVIDIA JetPackに付属するさまざまなサンプルを実行すると、エミュレートされているモジュールに合わせてパフォーマンスが調整されていることがわかります。たとえば、VPIライブラリにパッケージ化されたベンチマーク サンプルを使用すると、Jetson AGX Orin開発キットをそれぞれのモジュールをエミュレートするように構成した後、Jetson AGX Orin 64GB、Jetson Orin NX 16GB、およびJetson Orin Nano 8GBモジュールのCPU、GPU、およびPVAパフォーマンスを表示できます。
VPIベンチマーク サンプルを実行するには、次のコマンドを使用します。
Cd /opt/nvidia/vpi2/samples/05-benchmark sudo cmake . sudo make sudo ./vpi_sample_05_benchmark<cpu/cuda/pva>
VPIベンチマーク サンプルは、ガウス アルゴリズムの遅延をミリ秒単位で出力します。表2は、対象モジュールごとの結果を示しています。
|
アルゴリズム: 5X5 ガウスフィルタ 入力画像サイズ: 1920 X 1080 入力フォーマット: U16 |
Jetson AGX Orin 64GBとしてエミュレート | Jetson Orin NX 16GBとしてエミュレート | Jetson Orin Nano 8GBとしてエミュレート |
| CPUで実行 | 0.331 | 0.492 | 0.838 |
| GPUで実行 | 0.065 | 0.143 | 0.210 |
| PVAで実行 | 1.169 | 1.888 | – |
同様に、エンコードとデコード用のマルチメディア サンプルを実行することもできます。
デコードするには、次のコマンドを実行します。
Cd /usr/src/jetson_multimedia_api/samples/00_video_decode sudo make sudo ./video_decode H264 --disable-rendering --stats --max-perf <input file>
エンコードするには、次のコマンドを実行します。
Cd /usr/src/jetson_multimedia_api/samples/01_video_encode sudo make sudo ./video_encode input.yuv 1920 1080 H264 out.h264 -fps 30 1 -ifi 1000 -idri 1000 --max-perf --stats
表3は、H.264 1080P 30FPSビデオ ストリームを使用してこれらのエンコードおよびデコード サンプルを実行した後のFPS数を報告しています。
| エンコード/デコーダーのサンプル | Jetson AGX Orin 64GBとしてエミュレート | Jetson Orin NX 16GBとしてエミュレート | Jetson Orin Nano 8GBとしてエミュレート |
| エンコード | 178 | 142 | 110* |
| デコード | 400 | 374 | 231 |
*Jetson Orin NanoにはNVEncoderは含まれていません。表3では、Jetson Orin Nanoのエンコードはffmpegを使用してCPU上で実行されました。4つのCPUコアを使用すると110 FPSが達成されます。2つのCPUコアを使用した場合は73のFPSが達成され、1つのCPUコアを使用した場合は33のFPSが達成されました。
エミュレーションの精度を実証するために、Jetson AGX Orin 32GBとしてエミュレートされたJetson AGX Orin開発キットでいくつかのAIモデル ベンチマークを実行しました。次に、実際のJetson AGX Orin 32GBモジュールで同じベンチマークを実行して得られた結果と比較しました。結果からわかるように、エミュレートされたパフォーマンスと実際のパフォーマンスの違いはわずかです。
Jetson AGX Orin開発キットには32GBモジュールが含まれていますが、Jetson AGX Orin 64GBと同じレベルのパフォーマンスを提供し、275 TOPSを備えています。Jetson AGX Orin 64 GBのエミュレーションには特別なフラッシュ構成は必要ありませんが、Jetson AGX Orin開発キットでJetson AGX Orin 32GBをエミュレートするには適切なフラッシュ構成を使用する必要があります。
| モデル | Jetson AGX Orin 32GBエミュレート | Jetson AGX Orin 32GBリアル |
| ピープルネット（V2.5） | 327 | 320 |
| アクション認識2D | 1161 | 1151 |
| アクション認識3D | 70 | 71 |
| LPRネット | 2776 | 2724 |
| ダッシュカムネット | 1321 | 1303 |
| ボディポーズネット | 359 | 363 |
あらゆるJetson Orinモジュールのエンドツーエンド開発を行う
Jetson Orinモジュールをエミュレートしながら、Jetsonソフトウェア スタック全体を操作できます。NVIDIA DeepStream、NVIDIA Isaac、NVIDIA Rivaなどのフレームワークはエミュレーション モードで動作し、TAO ToolkitなどのツールはNGCの事前トレーニング済みモデルで期待どおりに動作します。ソフトウェア スタックはエミュレーションに依存せず、パフォーマンスはエミュレートされるターゲットのパフォーマンスと正確に一致します。
ロボット工学のユースケースを開発している場合や、ビジョンAIパイプラインを開発している場合は、Jetson AGX Orin開発キットとエミュレーション モードを使用して、Jetson Orinモジュールのエンドツーエンドの開発を今すぐ行うことができます。
あらゆるJetson Orinモジュール向けにNVIDIA Isaac ROSを使用してロボット アプリケーションを開発します。適切なフラッシュ構成を使用してフラッシュし、ROS開発を開始するだけです。図5は、Jetson Orin Nano 8GBとしてエミュレートされたJetson AGX Orin開発キットでIsaac ROS Stereo Disparity DNNを実行している様子を示しています。
あらゆるJetson Orinモジュール用のJetson AGX Orin開発キットでDeepStreamを使用してビジョンAIパイプラインを開発します。それはうまくいきます!
図6は、Jetson Orin Nano 8GBとしてエミュレートされたJetson AGX Orin開発キットで、H.265 1080P 30FPSの4つのストリームを使用してDeepStreamを使用して人物検出を実行するIVAパイプラインを示しています。
Jetson AGX Orin開発キットで市場投入を迅速化
エミュレーション サポートにより、Jetson AGX Orin開発キットでアプリケーション開発を開始および完了することで、より早く生産を開始できます。キットを購入して開発を始めましょう。