大規模言語モデル（LLM）ベースのAIアシスタントは強力な生産性向上ツールですが、適切なコンテキストと情報がなければ、ニュアンスに富んだ適切な回答を提供することが困難になる場合があります。多くのLLMベースのチャットアプリでは、ユーザーがコンテキストとしていくつかのファイルを提供できますが、ユーザーのPC内に保存されているスライド、メモ、PDF、画像などに埋もれたすべての情報にアクセスできないことがよくあります。
Nexa.aiのHyperlinkは、この課題に対処するローカルAIエージェントです。数千ものファイルを迅速にインデックス化し、ユーザーの質問の意図を理解し、コンテキストに基づいたカスタマイズされた洞察を提供します。
本日提供開始されたアプリの新バージョンには、NVIDIA RTX AI PC向けの高速化機能が含まれており、検索拡張生成によるインデックス作成速度が3倍に向上しています。例えば、以前はインデックス作成に約15分かかっていた1GBの高密度フォルダが、わずか4～5分で検索可能になります。さらに、LLM推論が2倍高速化され、ユーザーからの問い合わせへの応答が高速化されます。
NVIDIA RTX AI PC 搭載の Hyperlink は、インデックス作成速度が最大 3 倍、LLM 推論速度が最大 2 倍高速です。RTX 5090 でテストデータセットを使用してベンチマークを実施しました。インデックス作成時間は合計インデックス作成時間、推論時間は 1 秒あたりのトークン数で測定されています。
ローカルデータを瞬時にインテリジェンスに
Hyperlink は生成 AI を活用し、数千ものファイルから適切な情報を検索します。キーワードを単に照合するのではなく、ユーザーのクエリの意図とコンテキストを理解します。
そのために、Hyperlink はユーザーが指定したすべてのローカルファイル（小さなフォルダーからコンピューター上のすべてのファイルまで）の検索可能なインデックスを作成します。ユーザーは自然言語で探しているものを説明し、ドキュメント、スライド、PDF、画像などから関連コンテンツを見つけることができます。
例えば、ユーザーが「2 つの小説のテーマを比較した SF の読書感想文」の作成について相談した場合、たとえそれが「Lit_Homework_Final.docx」というファイルに保存されていたとしても、Hyperlink は関連情報を見つけることができます。
Hyperlink は、検索機能と RTX アクセラレーション LLM の推論機能を組み合わせることで、ユーザーのファイルから得られる洞察に基づいて質問に答えます。複数のソースからアイデアを結び付け、ドキュメント間の関連性を特定し、明確な引用を伴う論理的な回答を生成します。
すべてのユーザーデータはデバイス上に保存され、プライバシーが保護されます。つまり、個人ファイルがコンピューターから外部に漏れることはないため、ユーザーは機密情報がクラウドに送信されることを心配する必要がありません。ユーザーは、コントロールや安心感を犠牲にすることなく、強力な AI のメリットを享受できます。
Hyperlink は、専門家、学生、クリエイターによって既に次のような用途で導入されています。
会議の準備：メモやトランスクリプトから重要な議論のポイントを要約する。
レポートの分析：業界レポートから主要なデータポイントを引用し、綿密な調査に基づいた回答を得る。
コンテンツの作成：長年保存されたメモや下書きから、文章や動画のアイデアをまとめる。
よりスマートに学習：試験対策をしながら重要な概念を復習し、講義ノート、スライド、チュートリアルをすべて同時に検索する。
領収書の整理：スキャンした書類を仕分けし、経費報告書を自動的に作成します。
デバッグを高速化：コード内のドキュメントやコメントを検索して、エラーやバージョンの競合を解決します。
Hyperlink アプリをダウンロードして、RTX PC で AI 検索をお試しください。
Facebook、Instagram、TikTok、X で NVIDIA AI PC をフォローしてください。また、RTX AI PC ニュースレターを購読して最新情報を入手してください。LinkedIn と X で NVIDIA Workstation をフォローしてください。
ソフトウェア製品情報に関するお知らせをご覧ください。
カテゴリ：ジェネレーティブ AI
タグ：エージェント型 AI | 人工知能 | 会話型 AI | GeForce RTX | NVIDIA RTX | RTX AI Garage
出典: 元記事を読む
※現在お読みいただいているこの記事は、国内外のニュースソース等から取得した情報を自動翻訳した上で掲載しています。
内容には翻訳による解釈の違いが生じる場合があり、また取得時の状況により本文以外の情報や改行、表などが正しく反映されない場合がございます。
順次改善に努めてまいりますので、参考情報としてご活用いただき、必要に応じて原文の確認をおすすめいたします。