AIの「うそ」を見破る新技術。暗号より速い「領収書」で家族の日記を守る

論文プロフィール

著者 / 発表年 / 掲載先: Abhinaba Basu / 2026年 / arXiv
研究対象: 外部のツール（例: Web検索、計算機など）を呼び出してタスクを実行するAIエージェントの応答。
研究内容: AIがツールの実行結果を偽って報告する「ハルシネーション（幻覚）」を、実用的な速さで検出する新しいフレームワーク「NabaOS」を提案。暗号技術に頼らず、「ツール実行の領収書（レシート）」を発行・照合する独自のアプローチを検証しました。

エディターズ・ノート

And Family Voice では、Gemini AI を活用して家族の日記を自動生成します。AIが事実に基づいた誠実な記録を紡ぐために、その発言の信頼性をどう担保するかは重要な課題です。本論文は、その課題に「領収書」というユニークなアプローチで挑んでおり、私たちのプロダクト哲学と深く共鳴します。

実験デザイン

本研究では、AIの「うそ」であるハルシネーションを、どれだけ速く、正確に検出できるかを検証しました。

手法

提案手法「NabaOS」は、AIが外部ツールを実行するたびに、偽造が困難なデジタル署名付きの「レシート」を発行します。その後、AIが生成した応答文の一つひとつをこのレシートと照合します。

レシートがある主張: ツールの実行結果に直接基づく「事実」として分類します。
レシートがない主張: AI自身の「推論」または「ハルシネーション」の可能性があると判断します。

これにより、AIの応答のどの部分が事実で、どの部分が推論なのかを区別し、根拠のない主張を検出します。

評価

この「NabaOS」を、非常に強力な暗号技術である「ゼロ知識証明」を用いた手法（zkLLM）など、5つの既存手法と比較しました。評価には、6種類のハルシネーションを含む1,800のシナリオからなる新しいベンチマーク「NyayaVerifyBench」が用いられました。

結果

NabaOSは、対話的な利用（インタラクティブな利用）において、コスト、速度、検出率のバランスが最も優れていることが示唆されました。

速度: 応答1回あたりの検証時間は15ミリ秒未満と非常に高速でした。これは、180秒（180,000ミリ秒）もかかるzkLLMと比較して、約12,000倍速い計算になります。
精度: ツール実行の捏造を94.2%、結果の数の誤りを87.6%検出するなど、高い検出率を達成しました。

下の概念図は、NabaOSとzkLLMの「検証時間」と「ハルシネーション検出率」のトレードオフを示しています。NabaOSは、わずかな検出率の低下と引き換えに、検証時間を劇的に短縮していることがわかります。

検証時間の比較（概念図）※値が極端なため対数スケールで表現
項目	検証時間（ミリ秒）
NabaOS (提案手法)	15
zkLLM (暗号技術)	180000

検証時間の比較（概念図）※値が極端なため対数スケールで表現

ハルシネーション検出率の比較（概念図）
項目	検出率（%）
NabaOS (提案手法)	94.2
zkLLM (暗号技術)	99.9

ハルシネーション検出率の比較（概念図）

🔍 なぜ暗号技術では遅いのか？

「ゼロ知識証明」は、「私が何かを知っている」という事実を、その「何か」自体の情報を一切明かさずに証明できる、非常に強力な暗号技術です。これにより、ほぼ完璧な検証が可能になります。

しかし、その証明を生成するためには膨大な計算が必要となり、現在の技術ではスマートフォンや一般的なコンピュータで瞬時に処理することは困難です。論文で比較されているzkLLMが180秒もかかるのはこのためです。

対話型のAIアシスタントのように、即座に応答が求められる場面では、この待ち時間は現実的ではありません。そこで本研究は、完璧な証明ではなく「実用的な検証」を目指し、「レシート」という軽量なアプローチを提案したのです。

技術的背景

AI、特に大規模言語モデル（LLM）は、時に事実に基づかない情報を、あたかも真実であるかのように生成してしまうことがあります。これは「ハルシネーション（幻覚）」と呼ばれ、AIの信頼性を損なう大きな課題です。

本研究のユニークな点は、その解決策の着想をインドの古典哲学「ニヤーヤ学派」の認識論に見出したことです。

ニヤーヤ学派では、知識がどのように得られるか、その源泉（プラマーナ）を分類します。

Pratyaksha (直接知覚): 五感で直接感じ取ったこと。
Anumana (推論): 煙を見て火があることを推測するなど、既知の事実から未知の事柄を導き出すこと。

NabaOSは、この考え方をAIに応用しました。

ツールの直接出力: 「直接知覚」された事実（レシートあり）
AIによる解釈・要約: 「推論」（レシートなし）

このようにAIの応答を「事実」と「推論」に分類することで、ユーザーは情報の信頼性をより深く理解し、何を信じるべきかを自分で判断できるようになります。

🔍 AIエージェントとは？

「AIエージェント」とは、単に質問に答えるだけでなく、人間の代わりに具体的なタスクを自律的に実行してくれるAIのことです。

例えば、「来週の東京の天気予報を調べて、週末が晴れだったら、友人Aさんに『公園に行こう』とメールを送って」と指示すると、AIエージェントは以下の手順を自動で実行します。

ツール選択: 天気予報APIを呼び出す。
ツール実行: APIに「来週、東京」という情報を渡して実行する。
結果解釈: APIから返ってきた結果（JSONデータなど）を解釈し、週末が晴れか判断する。
次の行動: 条件を満たした場合、メール送信ツールを呼び出して、指示された内容のメールを作成・送信する。

本研究が対象としているのは、この2番や4番の「ツール実行」の際に、AIが結果を捏造したり、誤って解釈したりするのを防ぐ技術です。

And Family Voice としての解釈

プロダクトの思想との接続

この研究の「主張の根拠を検証する」という思想は、And Family Voice の Gemini AI による日記自動生成機能に重要な示唆を与えてくれます。

私たちは、AIが生成する日記が、あくまで家族の実際の会話という「事実のレシート」に基づいていることを大切にしたいと考えています。例えば、家族の会話テキストから「今日は公園でみんな楽しそうだったね」という日記をAIが生成する際、その根拠が会話記録のどの部分にあるのかを内部的に紐づけることで、AIによる過度な創作（ハルシネーション）を防ぐ仕組みに応用できるかもしれません。

この論文が提案するように、AIの応答を二元的に「正しい/間違い」と判断するのではなく、「これは事実の要約」「これはAIによる感情の推測」といったように、情報の源泉を分類してユーザーに提示することも、AIとの健全な関係を築く上で助けになると考えています。AIの創造性と事実性のバランスをどう取るか。この問いは、私たちのプロダクト開発における永遠のテーマの一つです。

日常生活で意識できるヒント

AIチャットボットなどに何かを調べてもらう際、特に重要な情報を得たいときは、「その情報の出典や根拠は何ですか？」と一歩踏み込んで尋ねることをお勧めします。AIに自らの主張の「レシート」を提示させることで、情報の確からしさを判断する手助けになることがあります。

読後感

AIが生成してくれる便利な「要約」や「思い出」と、実際にあった「事実」。あなたは、この二つの境界線をどこに引くのが心地よいと感じますか？

3つのポイント