驚きのパフォーマンス : TensorRT-LLM for Windows で RTX 上の大規模言語モデルを最大 4 倍高速化
また、TensorRT は Stable Diffusion を高速化し、RTX Video Super Resolution のアップデートがリリース
また、TensorRT は Stable Diffusion を高速化し、RTX Video Super Resolution のアップデートがリリース
NVIDIA GH200、H100、L4 GPU と Jetson Orin モジュールが、クラウドからネットワークのエッジまで、本稼働向けの AI で卓越したパフォーマンスを示す
最新の MLPerf ベンチマークで、NVIDIA H100 および L4 がジェネレーティブ AI とその他すべてのワークロードを新しいレベルに引き上げ、Jetson AGX Orin のテスト結果も性能と効率が向上
NVIDIA H100 GPU が AI 推論の業界標準テストにおいて世界記録を樹立し、A100 GPUはメインストリーム パフォーマンスを牽引、さらに Jetson AGX Orin もエッジ コンピューティングをリード
NVIDIA Jetson AGX Orin は販売開始直後にもかかわらず、エッジでの AI の水準を引き上げ、業界の最新推論ベンチマークにおいてトップクラスにランクイン
最新の MLPerf ベンチマークでは、NVIDIAがAI推論において、x86 コンピューターだけでなく Arm でも性能とエネルギー効率において高い水準を記録