軍事作戦や移民行政を支えるAI製品を、開発企業のトップが「進歩的」と説明したとき、企業の調達担当者は何を判断材料にすればよいのでしょうか。米データ分析企業パランティアの最高経営責任者、アレックス・カープ氏の発言は、AI企業が掲げる価値観と、その技術が実際に使われる場面との関係を問いかけています。争点は経営者の政治的な立場だけではありません。製品の社会的な意味を、誰が、どのような根拠で説明するのかという問題でもあります。

米政治メディアのPoliticoによるインタビューについて、WIREDは、カープ氏が自身の政治哲学と会社を説明する際に「進歩派」を意味する「progressive」という言葉を8回使ったと伝えています。カープ氏は長年の民主党支持者であると述べ、パランティアの製品も本質的に進歩的であるとの認識を示しています。



米国の政治で使われる「progressive」は、社会の改革や権利の拡充などと結び付く言葉ですが、具体的に重視する政策や手段まで一つに決まるわけではありません。日本語の「進歩的」という肯定的な響きだけで受け止めると、カープ氏の発言が持つ政治的な含みを見落としかねません。

WIREDが問題視しているのは、その自己認識と、軍事・移民行政などに関わる事業との隔たりです。ただし、政治的な呼び名だけを根拠に製品の適否を決めることも十分ではありません。企業に必要なのは、経営者の説明を入り口にしながら、技術の用途、影響を受ける人、運用上の責任へと確認を進める姿勢でしょう。

パランティアは、組織が保有するデータを分析し、業務や判断に利用するための技術を提供する企業です。今回の論点を理解するには、生成AIを文章作成や対話のための道具としてだけ捉えないことが大切です。組織の情報や実務の流れに組み込まれると、AIの出力は、現実の行動を検討するための材料にもなります。そこで問われるのは、回答の流暢さだけではありません。

WIREDは、パランティアが米軍に販売したツールについて、生成AIを使ってドローン攻撃の計画や実行を支援できると報じています。また、トランプ政権の移民の逮捕・送還を支える技術や、ガザでの戦争に関わるイスラエル軍との提携にも言及しています。これらは同じ用途ではなく、すべてを生成AIの機能として一括りにすることはできません。それでも、同社の技術が強制力を伴う国家の活動に関係しているという点は、共通する検討課題です。



ここでは、作戦を「支援する」ことと、攻撃の最終判断を「自律的に下す」ことを区別する必要があります。提示された情報だけでは、個別の運用における人の関与や、承認の手順までは確認できません。生成AIが関係しているという理由だけで、完全に自動化された攻撃の仕組みと断定するのは適切ではないでしょう。

企業向けAIでも、この区別は役立ちます。情報を要約する機能と、その要約に基づいて取引を止めたり、申請を退けたりする仕組みでは、必要な確認が変わります。一般的な導入評価としては、AIが何を生成するかに加え、その結果がどの行動につながるかを追うことで、誤りが生じた場合の影響を具体的に検討できます。

カープ氏は、軍事技術を提供することと戦争を避けることを、矛盾する活動とは捉えていません。WIREDによると、株主向け書簡ではパランティアの従業員を、実効性のある反戦運動を切り開く存在として位置付けています。決算説明会では、自社の製品によって相手が大きな損害を予測すれば、戦争を選ぶ価値がないと考えるようになる、という趣旨を説明しています。

この考え方の中心にあるのが「抑止」です。相手に攻撃を思いとどまらせるため、自国や同盟国の能力を示すという安全保障上の発想です。カープ氏は戦争を好まないとしながら、必要な戦争では米国と同盟国が最善の道具を持つべきだという立場を示しています。本人の説明では、軍事的な優位を支えることが、戦争の回避にもつながるわけです。



ただし、抑止を目的に掲げることと、実際に戦争を防いだと立証することは別です。相手が能力や意思をどう受け取るか、自国側がどのような条件で武力を使うかによって、結果は変わり得ます。WIREDの著者は、米国自身が戦争を始める可能性について、カープ氏の説明が応答していない点を批判しています。これは同氏の主張に対する著者の評価として読む必要があります。

日本企業がこの議論から持ち帰れるのは、AIの目的と効果を分けて聞くという視点です。「安全を高めるため」「事故を防ぐため」という説明には、その目的を実現する仕組みと、効果を確かめる方法が伴う必要があります。目的に賛同できる場合でも、前提が崩れる条件や、想定外の使い方への対応まで確認すれば、製品の説明をより具体的に評価できるでしょう。

カープ氏が自分を進歩派と説明したのは、今回が初めてではありません。WIREDは、2018年のニューヨーク・タイムズでも同様の自己認識が紹介され、ヒラリー・クリントン氏に投票したとの発言があったと伝えています。最近の発言だけを切り取って、突然政治的な立場を変えたと見るのは慎重であるべきでしょう。

献金先には、異なる政治勢力が登場します。WIREDによると、2023年にはジョー・バイデン氏とカマラ・ハリス氏の共同資金調達委員会に36万ドルを献金し、翌年にはトランプ氏を支援する政治団体MAGA, Inc.に100万ドルを献金しています。また、カープ氏は民主党を厳しく批判したこともあります。長年の支持政党についての説明と、個別の政治的な行動は、分けて見る必要があります。



政府との関係は、事業面からも無視できません。WIREDはパランティアの売上高の約半分が政府関連の仕事によると説明し、民主・共和両党の政権下で事業が成功してきたと指摘しています。こうした事業構造を踏まえれば、複数の政治勢力との関係は企業分析の対象になります。ただし、特定の発言が契約獲得のためだったと、外部から動機を断定することはできません。

調達先を評価する企業にとって有用なのは、経営者の信条を推測することより、政府事業への依存や顧客構成がサービスに及ぼす影響を確認することです。政治情勢や契約方針の変化によって、支援体制や製品の開発方針がどう変わり得るのかは、継続利用に関係します。政治的な発言を読む場合も、自社にとっての具体的な依存関係へ置き換えると、検討すべき事項が明確になります。

カープ氏は、パランティアが市場を支配することを目指す理由として、道徳的な責務と、戦闘に従事する人を支えるという使命を挙げています。WIREDが紹介した決算説明会での発言では、利益が増えることで軍事面の支援を一層進められるとの考えも示しています。同氏の語り方では、収益と使命は競合するものではなく、互いを強める関係に置かれています。

企業が利益を得ながら顧客への支援を広げること自体は、珍しい経営方針ではありません。難しさは、その顧客の活動が、契約の当事者ではない人々にも影響を及ぼす場合にあります。軍事や移民行政のような領域では、利用組織が得る便益だけを見ても、技術の社会的な影響を捉え切れないでしょう。誰にとっての成功かを明確にする必要があります。



一般的なAIの評価でも、業務効率や売上への貢献と、影響を受ける人への配慮は別々に確認できます。処理時間が短くなったとしても、誤った判断を受けた人が訂正を求められるかどうかは、その数値からは分かりません。製品の成果を測る指標に、どこまでの影響が含まれているのかを問う必要があります。

WIREDは、カープ氏が自社や投資家を批判した人々への対抗心を示した発言も取り上げています。この姿勢から個々の製品の性能や運用を断定することはできません。ただし、問題の指摘をどのように受け止める企業なのかは、長期の取引で確認する価値があります。導入企業としては、不具合や異議を申し立てる窓口、調査の進め方、利用を止める条件など、批判や問題提起を扱う具体的な仕組みに目を向けたいところです。

今回の議論を企業のAI導入に引き寄せると、経営者の価値観への共感だけでは、利用の妥当性を判断できないことが分かります。安全や社会への貢献を掲げる説明は、提供企業の考え方を知る手掛かりです。しかし、自社の業務でどの情報を扱い、誰にどのような影響を及ぼすかは、導入側が用途に即して確かめる必要があります。

例えば、社内資料の要約に使う場合と、顧客や従業員に関する判断の材料に使う場合では、確認の重点が変わります。前者でも機密情報の扱いや誤要約への対応は必要です。後者では、それに加えて判断の根拠を追えるか、人が訂正できるか、影響を受けた人の問い合わせに答えられるかといった点が問題になります。これはパランティアの個別製品に関する評価ではなく、AIの調達全般に応用できる考え方です。



調達時の質問は、抽象的な理念より、運用の場面に沿って組み立てると答えを比較しやすくなります。「AIの出力を誰が承認するのか」「誤りが見つかったら何を止められるのか」「判断の経緯を後から確認できるのか」といった問いです。提供企業の説明だけで解決しない部分には、自社側の承認手順や担当者も必要でしょう。

次の調達審査では、候補サービスを一つ選び、入力する情報からAIの出力、その出力を使う人、最終的な行動までを一枚に書き出してみてください。その各段階に、確認する担当者と、誤りがあった場合の対応を添えます。経営者が語る「進歩」や「安全」を、自社で確かめられる条件へ置き換えるための、具体的な出発点になります。