Nvidiaは最新の技術デモであるChat with RTXを通じて、生成型人工知能の領域に参入しました。このバージョン0.2のベータ版デモは、デバイス上のAIの将来を垣間見ることができます。他のAIモデルが演算能力のためにクラウドコンピューティングに依存しているのとは異なり、Chat with RTXはユーザーが直接チャットボットを自分のコンピュータ上で実行できます。このアプローチにより、より迅速な応答時間とデータのセキュリティが確保されます。
Chat with RTXを体験するには、Nvidiaの30シリーズまたは40シリーズのGPU、8GBのシステムメモリ、Windows 11が必要です。パートナーサイトのPCMagによると、デモのダウンロードサイズは約35GBで、インストールには追加の100GBのディスク容量が必要です。インストールプロセスには、30分から1時間かかる場合がありますので、放置しておくと良いでしょう。Chat with RTXは、生成型AIにとって重要なテンソルコアが不足している可能性があるため、RTX 20シリーズの古いGPUをサポートしていません。
ChatGPTやマイクロソフトのCopilotと同様に、Chat with RTXはNvidiaが開発した大規模言語モデルであるMistralとのインタラクションをユーザーに提供します。ユーザーはモデルに質問を投げかけることができ、モデルはインターネットやPDF、YouTubeの動画などからデータを取得して迅速に応答を生成します。NvidiaはChat with RTXが言語翻訳も提供できると主張していますが、この機能はまだ利用できません。
PCMagによる評価によれば、Chat with RTXはChatGPTと似たような機能を持っていますが、一部の機能が欠けています。例えば、Chat with RTXはクエリの一部をときどきスキップすることがありますが、ChatGPTにはそのような問題はありません。現時点でのChat with RTXの目立つ特徴は、テキストファイル(PDF、Doc、txt)やYouTubeの動画を要約し、その内容に基づいて質問に回答する能力です。18分間のGPUの物語も魅力的ですが、テキスト志向の愛好家にとってはテキスト版ができると嬉しい追加機能です。
PCMagの評価によれば、Chat with RTXはYouTubeの動画の要約には優れていますが、GPUのテスト結果を含むPDFファイルの処理には不安定な面もあります。YouTubeの動画に対しては正確な回答が生成されますが、PDFを扱う際には誤った回答が生成されたり、フォローアップの質問に対応するのに苦労することがあります。現時点では、Chat with RTXは実験的なツールのように見えますが、Nvidiaはこの分野で競合他社に先んじています。ただし、AMDとIntelのCPUにはいずれもニューラルプロセッシングユニット(NPU)が搭載されているため、我々がコンピュータ上で利用したいAIをどちらのハードウェアが処理するのかという問題が生じてきています。正直なところ、競争が激化しています。
FAQ – Chat with RTX プログラム
Q: Chat with RTXを使うために必要なものは何ですか?
A: Chat with RTXを利用するには、Nvidiaの30シリーズまたは40シリーズのGPU、8GBのシステムメモリ、Windows 11が必要です。
Q: Chat with RTXのダウンロードサイズはどれくらいですか?
A: デモのダウンロードサイズは約35GBです。
Q: Chat with RTXはどのようなファイルを要約し、質問に回答することができますか?
A: Chat with RTXはテキストファイル(PDF、Doc、txt)やYouTubeの動画を要約し、その内容に基づいて質問に回答することができます。
Q: Chat with RTXは言語翻訳を提供しますか?
A: 現時点では、Chat with RTXは言語翻訳を提供することはできません。
Q: Chat with RTXは古いGPUをサポートしていますか?
A: Chat with RTXはRTX 20シリーズの古いGPUをサポートしていません。
Q: Chat with RTXはPDFファイルの処理にどのような性能を持っていますか?
A: Chat with RTXはPDFファイルの処理には苦戦することがあり、正確な回答を生成する能力には限定的です。
Q: Chat with RTXは他社と比べてどのような優位性がありますか?
A: 現時点では、Chat with RTXは実験的なツールのように見えますが、Nvidiaは生成型AIの領域で競合他社に先んじています。
Q: AMDやIntelのCPUはどのような性能を持っていますか?
A: AMDやIntelのCPUにはニューラルプロセッシングユニット(NPU)が搭載されており、競争が激化しています。