未来のAIを探る:Nvidiaの「Chat with RTX」との対話

14 2月 2024
Nvidia wchodzi do gry z generatywną sztuczną inteligencją opartą na demie

Nvidiaの最新技術デモである「Chat with RTX」によって、同社は生成型人工知能の領域に参入しました。現在ベータ版のバージョン0.2となっているこのデモは、デバイス上でのAIの未来を垣間見ることができます。他のAIモデルが計算能力をクラウドコンピューティングに依存しているのに対し、Chat with RTXでは、ユーザーが自らのコンピュータ上でチャットボットを実行することができます。このアプローチは、より迅速な応答時間を保証するだけでなく、データのセキュリティも向上させます。

Chat with RTXを体験するために必要なものは、Nvidiaの30または40シリーズのGPU、8GBのシステムメモリ、およびWindows 11です。パートナーサイトのPCMagによると、デモのダウンロードサイズは約35GBであり、インストールには追加の100GBのディスク容量が必要です。インストールプロセスは30分から1時間ほどかかり、手を放しておくのに最適です。なお、Chat with RTXはRTX 20シリーズの古いGPUには対応していないことに注意してください。これは、生成型AIにとって重要なテンソルコアが不十分であるためかもしれません。

ChatGPTやMicrosoftのCopilotと同様に、Chat with RTXでは、Nvidiaが開発した大規模な言語モデルであるMistralとの対話が可能です。ユーザーはモデルに質問を投げかけることができ、モデルはインターネットからデータを取得し、PDFやYouTubeの動画などの複雑な文書にアクセスして迅速に応答を生成します。NvidiaはChat with RTXが言語翻訳も提供できると主張していますが、この機能はまだ利用できません。

PCMagの評価によると、Chat with RTXはChatGPTと類似していますが、一部の機能が欠けているようです。例えば、Chat with RTXは時折クエリの一部をスキップすることがありますが、ChatGPTにはそういった問題はありません。現時点でのChat with RTXの特徴は、テキストファイル(PDF、Doc、txt)やYouTubeの動画を要約し、その内容に基づいて質問に答える能力と思われます。GPUストーリーの18分バージョンもいいですが、テキスト志向の愛好家にとって、テキスト版も歓迎されるでしょう。

PCMagの評価によれば、Chat with RTXはYouTubeの動画を要約することにおいて優れたパフォーマンスを発揮しますが、GPUのテスト結果を含むPDFファイルに関しては成績がまちまちでした。YouTubeの動画に対しては正確な応答が生成されますが、PDFに対しては誤った回答がされたり、フォローアップの質問に苦しんだりすることがあります。現時点では、Chat with RTXは実験的なツールのように見えますが、これによりNvidiaは競合他社に先駆けてこの領域でのリードを築いています。しかし、AMDやIntelのCPUにも今やニューラルプロセッシングユニット(NPU)が搭載されていることから、どちらのハードウェアが我々がコンピュータ上で使用したいAIを処理するのかという問題が浮上しています。正直なところ、競争は激化しています。

FAQ – Chat with RTXプログラム

Q: どのGPUがChat with RTXを使用するために必要ですか?
A: Chat with RTXを使用するには、Nvidiaの30または40シリーズのGPUが必要です。

Q: Chat with RTXはどのような機能を提供しますか?
A: Chat with RTXは、大規模な言語モデルであるMistralを使用し、質問に回答するだけでなく、テキストファイルやYouTubeの動画を要約する能力も備えています。

Q: Chat with RTXはPDFファイルをサポートしていますか?
A: はい、Chat with RTXはPDFファイルに対応していますが、現時点では正確な応答が得られない場合もあります。

Q: Chat with RTXは言語翻訳をサポートしていますか?
A: 現時点では、Chat with RTXは言語翻訳機能を提供していません。

Q: Chat with RTXはどのようなインストール要件がありますか?
A: Chat with RTXを利用するためには、8GBのシステムメモリとWindows 11が必要です。また、デモのダウンロードサイズは約35GBで、インストールには追加の100GBのディスク容量が必要です。

Sources:
– Nvidiaの公式ウェブサイト(https://www.nvidia.com/
– PCMagの記事(https://www.pcmag.com/article/393193/nvidia-rtx-ai

The source of the article is from the blog regiozottegem.be

Don't Miss