Tagged: TensorRT
Gemma、NIM と出会う: NVIDIA と Google DeepMind がタッグを組んで大規模言語モデルのイノベーションを推進
Google の最新オープン モデル PaliGemma は NVIDIA NIM 推論マイクロサービスをサポートしています。
さらにオープンに:NVIDIA、Meta Llama 3 での推論を高速化
NVIDIA のテクノロジで構築された Meta の最新のオープンな大規模言語モデルは、NVIDIA GPU 上で動作するように最適化されており、クラウドやデータセンターからエッジや PC にも対応します。
小型であるが強力: NVIDIA が Microsoft の Phi-3 Mini オープン言語モデルを高速化
NVIDIA は、NVIDIA TensorRT-LLM によって Microsoft の新しい Phi-3 Mini オープン言語モデルが高速化されることを発表しました。
AIを活用した内視鏡で医師が腸の健康状態を詳しく観察
グローバル・メドテックカンパニーであるオリンパスのグループ企業傘下にあるOdin Vision (英国オディン・ビジョン)は、現在、大腸内視鏡検査におけるポリープの分類分けとがん検出を支援するクラウド接続型 AI モデルを構築しています。
NVIDIA Hopper が MLPerf ベンチマークで生成 AI をリード
TensorRT-LLM ソフトウェアを実行する NVIDIA Hopper ベースのシステムが、生成 AI 用に世界で最も強力なプラットフォームを実現できることを業界標準のテストで実証