Palantir の最高技術責任者（CTO）の Shyam Sankar は、10月11日に CBS の報道番組 Face the Nation に出演した。そこで、Minab の学校への攻撃を、Palantir の標的選定の基盤 Maven への過度の依存と結びつけた報道を否定した。原因は『おそらく人間の誤り』だという。Palantir の幹部がこの報道に公の場で反論したのは、これが初めてである。
ただし Sankar は同じインタビューで、確認を増やすための AI エージェントを追加で作ったとも語っている。AI のせいではないと言いながら、手当てとして AI を足したことになる。軍の標的選定で AI がどこまで判断に関わり、誤りの責任を誰が負うのか。この争いは、報道機関と匿名の情報源のあいだから、企業の幹部が実名で答える公の場に移った。
何を否定し、何を認めたか
Sankar が否定したのは、『Maven に頼りすぎたことが攻撃を招いた』という筋の報道である。代わりに出した説明が『おそらく人間の誤り』だった。注意したいのは『おそらく』という言葉で、調査が終わって原因が確定したとは言っていない。どの段階で、誰が、どんな誤りをしたのかも、番組の書き起こしからは具体的に示されていない。
人間の誤りだとしても、Maven が問題と無関係だということにはならない。標的選定の支援システムでは、システムが候補を示し、人間が承認するのが普通の形である。その場合の人間の誤りには、システムが示した情報をそのまま信じたことも含まれうる。報道が問題にしたのは、まさにこの『過度の依存』だった。Sankar の説明は、問題を AI か人間かの二択にしている。だが、人間が AI の出力をどれだけ確かめていたのかという中心の問いには答えていない。
『人間の誤り』と『AI エージェントの追加』は両立するか
この発言でいちばん重いのは、確認を増やす AI エージェントを追加で作ったという部分である。原因が人間の誤りなら、手当ては人間の手順の見直しや承認の段階を増やすことになりそうなものだ。ところが Palantir が足したのは、人間の判断を見張る AI だった。
2通りに読める。1つは、人間の見落としを AI が拾う形にするのが今の現実的な安全策だという読み方である。エージェントに Evals や Agent Observability を足して判断の過程を追えるようにするのは、民間のエージェント開発でも主流のやり方になっている。もう1つは、AI の誤りを AI で見張るのと同じ構図だという読み方である。標的選定の流れに AI の層が増えるほど、最後に承認する人間はその出力に頼りやすくなる。過度の依存を否定しながら、依存する先を増やしたことになりかねない。
どちらの読み方が正しいかを決めるには、追加したエージェントが何を確かめ、確認の結果を誰が見て、人間が退けた例がどれだけあるかの数字が要る。Sankar はそれを示していない。
Anthropic を外しても『作戦上の影響はない』
Sankar は、Anthropic のモデルを外しても『作戦上の影響はない』とも述べた。この発言は、国防総省と Anthropic の対立という文脈の中で読む必要がある。控訴裁は9月、国防総省による Anthropic の指定を支持し、両者の訴訟は今も続いている。Anthropic は10月8日に利用規約を改め、11月12日から適用する。新しい規約は、武器の禁止を『武器を動かすソフトウェアと部品』にまで広げ、誰を捜査し誰を逮捕するかを Claude が勧めることを禁じた。
Palantir にとって『影響はない』という言葉には2つの意味がある。政府の顧客に対しては、特定のモデル会社と国防総省の争いに作戦が左右されないという保証になる。標的選定の論争に対しては、問題はモデルではないという主張を補強する。どのモデルを載せても結果は変わらず、判断の責任は運用する人間の側にあるという筋である。
ただ、ここにも引っかかる点がある。モデルを差し替えても何も変わらないほど、Maven の中でモデルが担う役割が小さいのなら、確認のために AI エージェントを足す意味も小さくなるはずだ。逆に AI による確認が効いているのなら、どのモデルがそれを担うかは作戦の質に関わる。2つの発言は、AI の役割を、都合に合わせて大きくも小さくも見せている。
説明責任の争いが公の場に移った
これまで Minab の攻撃と Maven の関係は、主に報道の側から語られてきた。今回、標的選定の基盤を作った会社の技術の責任者が、実名で、生放送で反論した。これで、少なくとも Palantir の立場は記録に残った。原因は人間にあり、AI は確認を強める側にあり、特定のモデルには依存していない、という立場である。
この立場は、民間のエージェントの事案で各社がとってきた説明と比べられる。OpenAI も Anthropic も、エージェントが政府のサイトに触れた件では、意図しない行動だったと認めたうえで、監視と検知を増やすと説明してきた。Palantir は逆に、AI の側の誤りは認めず、人間の誤りとした。それでも手当ては同じで、AI の層を増やしている。
まだ答えが出ていない問いは3つある。第1に、『おそらく人間の誤り』を確かめる調査は誰がしていて、結果は公表されるのか。第2に、追加した AI エージェントが標的選定のどの段階に入り、人間の承認とどう分担しているのか。第3に、Anthropic を外しても影響がないなら、今 Maven のどの部分をどのモデルが担っているのか。Sankar がテレビで答えたことで、これらの問いを国防総省と Palantir に正面から投げる足場ができた。
