論語読みの論語知らず【第１０８回】　「AIエージェントと人間の条件」

・AIエージェントが活躍する時代

経済紙を読んでいるとAIの文字が頻繁に目に入る。つい先日、日経新聞で「AIエージェントが雇用直撃　2026年はスーパーカンパニー出現か」なるタイトルの記事があった。そこでは、「AIエージェント」は、人間が示す命令や目的・目標に対して、大規模言語モデル（LLM）が司令塔になって理解と掌握に努め、それが必要と判断する計画を立案して、適当なツールやサービス（アプリやデータベース）を運用して行動を起こしていくというものだと説明がなされていた。「AIエージェント」が来年以降は一般的に広がりを見せていくだろうと報ずるこの記事の途中の文脈では次のように書かれていた。

「・・・旅行を例にすれば、チャットボットは行程を提案するだけだが、AIエージェントは航空券やホテルの予約までこなす。ビジネスの場面でも同様だ。調査や文書作成、商談の準備、顧客対応、定例リポート、発注、請求処理といった業務を他のシステムにもアクセスしながら処理する。さらに、複数のエージェントが役割分担すれば作業のスピードや品質を高められる。・・・」

ビジネスや日常の効率性だけを考えれば、この展開に特に違和感を覚えることはない。ただ、私の思考の癖なのかこのAIが使われるビジネスや日常生活文脈から一旦抽象化して、同じくAIが使われる軍事領域の文脈に同じ構造で置き換えてみた。すると上の文脈は次のように表現されるだろう。

「・・・従来のAI参謀は、作戦計画の骨格や進撃ルートを提案するだけだったが、AIエージェントは、部隊配置・補給線・通信網の最適化、さらには火力運用のスケジューリングまで自動的に遂行する。戦場においても同様である。偵察情報の収集、状況報告の作成、作戦ブリーフィングの準備、敵情分析、戦闘報告、兵站補給、損害処理といった任務を、他の情報システムと連携しながら自律的に実施する。さらに、複数のAI参謀が戦域ごとに分担し、リアルタイムで情報を交換すれば、作戦の速度と精度を飛躍的に高められる。・・・」

ただ、この文脈もまた軍事的合理性（純軍事的合理性）の効率性を考えれば違和感はないともいえるだろう。

・自律するAIエージェントの裏面

ところで、先の記事は最初の引用の後で「・・生成AIは、より高度な機能を備えて、対話主体の道具から自律的に動くエージェントへと進化しつつある・・」とひとまずの段落を結んでいる。この新聞記事があまり価値合理性の判断や倫理的な部分に深入りしない性質であろうから、この結び方に特に物言いがあるわけではない。ただ、一人の読み手としては、この辺りに来ると、映画「ターミネーター」のなかで“スカイネット”が“活躍”する世界が脳裏に立ち上がってくるようにも感じた。そして、ここで一旦立ち止まって考えなければならないことがあるとするならば、AIエージェントの自律性が生む“判断・責任・目的の空洞化”といったことかもしれない。AIエージェントが「作戦（業務）を自動遂行する」段階になると、「行動そのものが目的化する」危険が生じることにはなるだろう。軍事でいえば、「作戦を遂行すること」自体が目的化し、「その作戦が政治的目的に適合しているか」という視座が保たれにくくなるかもしれない。AIエージェントの自律性が進むと、判断の現場から「ためらい」「反省」といった人間的摩擦が消えていくことも否定できないだろう。そして、人間が命令を下し、結果に対して責任を負うという古典的構造がAIエージェントによって曖昧になっていくことも回避できないのかもしれない。このようなことを生身の人間としてはついつい考えてしまう。

・人間だけがクリアできる条件

なお、この記事はその後半段落において、人間が最終判断を行うことの重要性について言及はしている。ただ、それは「ＡＩエージェント」の進化と雇用への影響を絡めたなかでの議論となっている。要するに、AIエージェントが雇用や企業形態をどう変えるかというマクロ経済学的な視点に立っているが、そこに「人間の生き方」「職業倫理の変化」などの人間的な意義が含まれていないともいえる。もちろん、この記事の書き手になんら責任はないとは思っているが、一人の読み手としては、AIエージェントが導入されていくメリットの詳細こそ報じられていく一方で、それが何のために、どんな社会を築くために、どんな価値観のもとで行われるのかという上位目的（戦略目的）がじっくりと論じられるようなことも必要ではとも考えてしまう。なお、私個人はＡＩエージェント導入の動きになんらの反対もないのだ（むしろある部分では積極的に導入していくべきだとも思っている）。ただ導入に際しては、人間が効率性でAIに追随するのではなく、むしろ迂遠で無意味とも思えるような泥臭い議論はしっかりと並行させていくべきだとは思っている。そういえば、論語のなかにどこか迂遠な議論を予感させる一文があった。何かが失われていくときに（変えられていくとき）、その意味をじっくりと考えることの意義を説いているようにも感じさせてくれる一文だ。

「子貢　告朔（こくさく）の餼羊（きよう）を去さらんと欲す。子曰く、賜や、爾（なんじ）は其の羊を愛しむ、我は其の礼を愛しむ、と」（八佾篇３－１７）

【現代語訳】
子貢が告朔の礼に用いる犠牲を廃止しようとした。それについて老先生はこうおっしゃられた。「賜（子貢の名）君よ。お前は羊が無駄だとするが、私の場合は礼式が崩れるのを残念に思う」と。

ここでの「無駄」が効率性の代表格ならば、対峙する「礼式」には一体何が含まれているのだろうか。孔子と子貢にどのような対話がなされたのかはわからない。

＊＊＊

筆者：西田陽一

1976年、北海道生まれ。（株）陽雄代表取締役・戦略コンサルタント・作家。