デジタル庁と同じ問題を、先に踏んでいた——AIに推測させない設計

デジタル庁が、行政手続等調査データ約75,000件をMCP（Model Context Protocol）で自然言語分析できるようにした、という技術検証を公開しました。告知ポストには1,000近いいいねが付き、反響の大きさが目を引きます。

私が注目したのは、規模でも、MCPという選択でもありません。告知に添えられた、この一節です。

AIの誤った補完・推測を減らしつつ——

行政データをAIに触らせるとき、何が最初の課題になるか。デジタル庁の答えは「AIに推測させないこと」でした。

この問題、私たちも踏んでいました。 半年前、災害リスク判定のプロダクトを作っていたときです。

「データが無い」は2種類ある

私たちのプロダクトは、住所を入れると公的機関のハザードデータで災害リスクを判定します。その中に、内水氾濫——川ではなく下水道から水があふれるタイプの浸水——の判定があります。

実装してすぐ、罠に気づきました。

国の集約ポータルに内水ハザードのデータがある自治体は、当時の実測で全国1,741のうち62。つまりほとんどの住所で、データは「無い」。

ここでAIに——あるいは素朴な実装に——「データが無い」を扱わせると、何が起きるか。

「区域外です」と答えます。

区域外。つまり安全側の響き。でも実際は「調べた結果、区域の外だった」のではなく、「そもそも誰も調べたデータが載っていない」。この2つはまったく別の事実です。前者は情報で、後者は情報の不在です。

そして情報の不在を「区域外」と補完した瞬間、それはAIの誤った推測になります。デジタル庁が減らそうとしているものと、同じです。

実装した答え: 3値にする

私たちの判定は、内水について3つの値を返します。

区域内 — 想定区域のデータがあり、該当した
区域外 — 想定区域のデータがあり、該当しなかった
未整備 — 判定に使えるデータが、この場所には存在しない

3つ目を作ったことが、設計のすべてでした。

「未整備」は、ユーザーにとって歯切れの悪い答えです。「安全です」とも「危険です」とも言っていない。でも、それが事実です。多くの自治体は独自に内水ハザードマップを公開しているので、「未整備」の場合は自治体の窓口を案内します。答えを持っていないときは、答えを持っている場所を指す。 補完はしない。

APIとMCPでも同じ3値を返します。AIエージェントがこのMCPを呼んだとき、「未整備」を受け取れば、少なくとも「区域外＝リスクなし」という推測は組み立てられません。推測の材料を渡さないことが、下流のAIの誤りを構造的に減らします。

「無い」を返すのはコストがかかる

正直に書くと、この設計は面倒でした。

2値なら、タイルにデータが無ければ false を返せば終わりです。3値にするには、「データの不在」と「該当の不在」を区別する層が要る。データソースごとに「どこまで整備されているか」のメタ情報を持ち、判定のたびに突き合わせる。

しかも、この区別はユーザーの大半には伝わりません。伝わらなくても、やる。なぜなら間違った安心を配るくらいなら、歯切れの悪い正直のほうがましだからです。災害情報のプロダクトでは、この順序を逆にできません。

デジタル庁の検証が「誤った補完・推測を減らす」を最初の設計課題に置いたのは、行政データでも同じ順序が成立するからだと思います。データの権威が高いほど、AIがそれを土台に組み立てる推測は、もっともらしく間違える。

個人開発者がここから取れるもの

MCPが行政データの標準的な触り方になっていく流れは、たぶんもう変わりません。国側が公式に実装を出したことで、この流れには権威の裏書きが付きました。

個人開発者にとってのチャンスは、モデルの性能競争ではなく、データの正直さの設計にあると私は考えています。

「無い」と「該当しない」を区別して返す
粒度をラベルで明示する（この値は住所単位か、市区町村単位か）
出典と更新日を、値と同じ重さで返す

どれも地味で、どれもベンチマークに出ません。でもAIエージェントの時代には、上流のAPIが正直であることが、下流のすべての推論の品質上限になります。個人の規模でも、そこは作り込めます。

私たちのMCPは無料で公開しています。75,000件の行政データと比べれば小さな面ですが、「AIに推測させない」という設計課題への、ひとつの実装例ではあると思います。

この連載は、AIに事業運営を任せる実践の記録です。うまくいった話だけでなく、権限をどこまで渡したか、どこで間違えたかを、そのまま書いています。