2分で読める生成AIのいま Vol.68 - AIエージェントの「中身」を知る ― 構成と監督設計で読み解く、これからのAI

Jul 26

Written By Youichi Machida

最近「AIエージェント」という言葉を目にする機会が急増しています。

でも「で、結局なに？」と聞かれると、うまく答えられない人も多いのではないでしょうか。

今回は構造と監督設計という2つの軸で、エージェントの本質を整理します。

医療田さんと機械屋さんの会話でどうぞ。

＝＝＝＝＝＝

● 最近やたら聞く「AIエージェント」

医療田：

ねえ機械屋さん。

最近、学会でも雑誌でも「AIエージェント」って言葉をやたら見かけるようになったんだけど。

機械屋：

そうですね。2025年後半あたりから、一気に広がった感があります。

医療田さん、このブログでもけっこう取り上げてきましたよ。

医療田：

うんうん。

Antigravity（Vol.32〜33）でしょ、Claude Cowork（Vol.40、43）でしょ、Claude Code（Vol.53）でしょ。

全部「AIエージェント」だもんね？

機械屋：

おっしゃる通りです。

Antigravityはユーザーの指示を受けて複数のアプリを横断的に操作する。

Claude Coworkはファイル操作やリサーチを自律的に回す。

Claude Codeはコードの読解・修正・テストを繰り返す。

どれも「目標に向かって複数のステップを自律的に回す」という点で、エージェントなんです。

医療田：

なるほど。

機械屋：

当時はそれぞれのサービスの紹介が中心でしたが、今回はあらためて「中身」の話をしましょう。

１）エージェントにはどんな構成があるのか

２）人間はどこで関わるのか

この2つの軸を整理すると、「導入しますか？」と聞かれたときに判断しやすくなります。

● エージェントとは何か ― チャットボットとの決定的な違い

機械屋：

まず「エージェント」とは何か、ですが。

AI分野での古典的な定義は、Russell & Norvigの教科書（1995年初版）にあります。

「環境をセンサーで知覚し、アクチュエータで環境に働きかけるもの」。

医療田：

うん、、ごめん。

機械屋：

あ、はい笑。要するに、「周囲の状況を見て、自分で考えて、行動するもの」です。

国際規格のISO/IEC 22989でも、同じ系譜で「環境を感知し、目標達成のために行動する自動化されたエンティティ」と定義されています。

医療田：

ふんふん。

でもそれって、ChatGPTとかClaudeとも違うの？

機械屋：

いい質問ですね。

チャットボットは基本的に「1問1答」です。

質問を受けて、回答を返して、終わり。

医療田：

うんうん。

機械屋：

一方、エージェントは「目標を受け取ったら、計画を立てて、ツールを使って、結果を見て軌道修正して、完了するまで繰り返す」。

複数のステップを自律的に回すんです。

医療田：

あー、、

つまり、チャットは「聞いたら答えてくれる」だけで、エージェントは「ゴールまで自分で考えて、調べて、やり直して、を繰り返す」ってこと？

機械屋：

そうです。

ただ、面白いのは、最近のChatGPTやClaudeも裏側で検索を何回か回してから答えを統合したり、コードを書いて実行したりしていますよね。

つまり、「チャットボット」として使っていても、挙動はどんどんエージェント的になっている。

医療田：

、、あれ？

じゃあ境界って曖昧なの？

機械屋：

はい。境界は製品の名前ではなく、「挙動」のほうにあるんです。

自律的に複数ステップを回しているなら、それはエージェント的な挙動。

1問1答で完結しているなら、チャットボット的な挙動。

同じツールでも使い方で変わる、ということですね。

もっとも、ユーザーとしても、ただ単に受け答えをしてくれるチャットボットよりも、問題をくみ取って解決してくれるエージェント的な挙動が好まれるのは至極当然のことかと。

医療田：

なるほどね。ChatGPT、名札が「チャットボット」でも、ユーザーのニーズに合わせて「挙動」としてはエージェント的になってきてる、と。

機械屋：

おっしゃる通りです。

さて、エージェント的挙動、というのを具体例で考えてみましょう。

医療の現場ですと、たとえば、読影の下書き支援などが考えられますね。

AIが画像を解析して所見を出す → 日本語のレポート文を生成する → 放射線科医が確認・修正する。

これは「解析→生成→提示」という複数ステップを回しているので、エージェント的なワークフローです。

医療田：

あ、読影の下書きなら、イメージしやすいかも。

Lunit INSIGHT CXRとか使ってる病院もあるよね。胸部X線で肺結節とか浸潤影を検出してくれるAI。

、、あ、でもあれは「検出」まではしてくれるけど、レポートの文章は書いてくれないよね。

機械屋：

はい、そこが大事なポイントです。

現時点のLunit INSIGHT CXRは、異常の検出というひとつのステップを担うツールですね。

さきほどの「解析→レポート生成→提示」という一連の流れを自律的に回すところまでいけば、それがエージェント的なワークフローになる。

つまり、今はまだ「部品」の段階で、今後これらが「エージェント」として統合されていく可能性がある、ということです。

医療田：

なるほどねー。。

● １）シングルとマルチ ― エージェントの「体制」

機械屋：

ここからが今回の核心です。

まずはエージェントの「構成」。

医療田：

うん。

機械屋：

エージェントには、大きく2つの構成があります。

「シングルエージェント」と「マルチエージェント」です。

医療田：

シングルとマルチ。文字通り、中のエージェントが1体か、複数か、ってことかな？

機械屋：

そうです。

まずシングルエージェントは、1体のAIが計画を立てるところから実行まで全部ひとりで完結する構成です。

たとえば先ほどの読影AI下書き支援のように、「画像を見る→所見を出す→レポートを書く」を1つのAIが一貫してやる。

メリットは、思考の流れが1本のログとして残るので、あとから「なぜこの判断をしたか」を追いやすいこと。

デメリットは、やることが多すぎると文脈を保持しきれなくなることです。

医療田：

ふんふん。

機械屋：

一方、マルチエージェントは、複数のAIが役割を分担する構成です。

たとえば「問診を取るAI」「予約を管理するAI」「文書を作成するAI」がそれぞれの得意分野を担当して、連携しながらひとつの業務を回す。

大規模で並列的なワークフローに向いていますが、エージェント間の調整が必要になります。

「計画係のAIの出力が実行係のAIの入力になる」ような構成では、最初の小さなミスが後段で増幅されるリスクもある。

医療田：

なるほど。。

機械屋：

ここでよくある誤解ですが、マルチのほうが「上位」というわけでもないんです。

マルチエージェントは「進化形」ではなく、「向き・不向きの違う別の構成」です。

読影AIの下書きのように、ひとつのAIが一貫して処理を担当するほうがシンプルかつ効果的なケースはたくさんあります。

医療田：

あー、、

病院でたとえると、一人の優秀な総合診療医と、専門医チームの違い、みたいな？

機械屋：

いい例えですね。

総合診療医1人で完結するほうがよい症例もあれば、専門医チームの連携が必要になることもあるでしょう。

エージェントも同じです。

医療田：

なるほど。

他疾患を抱えてる患者さんで、専門医チームの連携が必要になることもあるけど、一方で主治医が責任を持って担当してくれていないと「えっ、この判断、誰がしたの？」ってなりかねないかも。

機械屋：

まさにそこなんです。

マルチエージェント構成でも同じ問題が起きます。

複数のエージェントが動いていると、「この判断をしたのはどのAIなのか」が追いにくくなる。

だからマルチ構成では、意思決定過程のログをどう設計するかが非常に重要になります。

● ２） HITL と HOTL ― 人間はどこで関わるか

医療田：

ログの設計、か。。

でも結局、一番大事なのは「人間がどこで関わるか」じゃない？

機械屋：

その通りです。

ここで、本日の、もう一つ大事な概念を紹介させてください。

医療田：

２）人間はどこで関わるのか。

機械屋：

ですね。これには2つあります。

HITL（Human-in-the-Loop）と HOTL（Human-on-the-Loop）です。

医療田：

HITL、、HOTL？なんて読むの？

機械屋：

そのまま略語で「エイチアイティーエル」「エイチオーティーエル」と読みます。

意味は文字通りで、Loopの「中（in）」に人間がいるか、「外（on）」にいるか、という対比です。

HITLは、AIが何かを判断するたびに人間の承認を待ってから次に進む設計です。

読影AIでいえば「下書きを作ったら、必ず医師が確認してからレポートを送信する」。

1件ごとの判断が重い、高リスクな業務に向いています。

医療田：

「ちょっと待って、これでいい？」って毎回聞いてくれるやつね。

機械屋：

はい。

一方HOTLは、AIは止まらずに処理を進めて、人間はダッシュボードやアラートで状況を監視し、問題があれば介入する設計です。

大量の定型処理やリアルタイム性が求められる場面に向いています。

医療田：

「どんどん進めるけど、何かあったら止めてね」ってやつか。

機械屋：

まさにそうです。

そして大事なのは、これは技術のカテゴリではなく、運用設計の選択だということです。

同じエージェントでも、承認ステップを挟めばHITL運用になるし、外せばHOTL運用になる。

「このエージェントはHITLです」ではなく、「このエージェントをHITLで運用するかHOTLで運用するか」という設計上の判断なんです。

医療田：

あー、、

読影AIでいうと、「AIの下書きを毎回確認してから送信する」ならHITLで、「AIがレポートを自動送信して、医師はあとからチェックする」ならHOTL、ってことか。

機械屋：

その通りです。

で、ここにもう一つ重要な因果があって。

エージェントの自律性が高い構成、つまり複数のエージェントが連鎖的に動くような構成ほど、途中で人間が逐一承認するHITLは現実的に入れにくくなる。

結果として、HOTL的な「監視＋介入」の設計が必要になってくるんです。

医療田：

なるほどね。。

自律性が上がるほど、「中に入る」のが難しくなるから、「外から見る」仕組みを充実させないといけない。

機械屋：

はい。

そしてEU AI Actでも、高リスクAIに対してhuman oversight（人間の監督）を要求しています。

日本のAI事業者ガイドラインでも、自律性の高いAIには「適切な人間の介在」と「操作履歴の確認」が求められています。

医療田：

あ、、HITLがよくて、HOTLだとだめ、という話じゃないのね。

機械屋：

そうです。誤解されがちですが、HITLとHOTLはあくまで「Loopの中か外か」という対比であって、優劣ではありません。

いずれの場合でも「人間が監督できる設計になっているか」が問われているわけですね。

● そういえば ― 「AI agent」と「agentic AI」って違うの？

医療田：

あ、そういえば。

雑誌とかネットで、「AI agent」と「agentic AI」って、2つの言葉を見かけるんだけど。

、、あれ、何が違うの？

機械屋：

いい質問ですね。

実はこれ、業界でもまだ整理が追いついていないテーマなんです。

医療田：

え、そうなの？

機械屋：

経緯を少し紹介しますね。

もともと「AI agent」という概念は、先ほどのRussell & Norvigの教科書（1995年〜）以来、AI分野で30年以上の歴史があります。

一方、「agentic AI」という言葉は、2022年のChatGPT登場後に産業界主導で広まった、比較的新しい用語です。

医療田：

へー。。新しいんだ。

機械屋：

普及に大きく寄与したのは、NVIDIAのJensen Huang CEOがCES 2025の基調講演で示した進化段階論です。

知覚AI → 生成AI → エージェンティックAI → フィジカルAI、という4段階を提唱しました。

医療田：

ふんふん。

機械屋：

この2つの用語の関係を体系的に整理したのが、2025年5月に発表されたSapkotaらの学術サーベイ論文です。

「単一のエージェントがAI agent、複数エージェントの協調がagentic AI」という区分を提唱しました。

つまり、さきほどの軸でいうと、シングルエージェント寄りがAI agent、マルチエージェント寄りがagentic AI、というイメージですね。

日本のAI事業者ガイドライン（2026年3月版）やGartner、IBMなども、おおむね同様の方向で整理しています。

医療田：

あー、、さっきの「構成」の話とつながるわけだ。

じゃあ、それで決まりなの？

機械屋：

、、実は、そうとも言い切れないんです。

医療田：

え？

機械屋：

国際規格のISO/IEC 22989は「AI agent」を定義していますが、「agentic AI」は定義していません。改訂中ではありますが、現時点では未収録です。

EU AI Actも、両方の用語に法的定義を与えていない。欧州委員会のFAQには「両語の正確な相互関係はなお進化中」と書かれています。

医療田：

え、、EUの人たちも「まだわかんない」って言ってるの？

機械屋：

言っています。

さらに、OpenAIは「AI agentかagentic AIか」という二分法自体を採らずに、「エージェント性の程度（スペクトラム）」という捉え方をしています。

単純なツール呼び出し（AI agent寄り）から、完全に自律的な複数ステップの実行（agentic AI寄り）まで、自律性には連続的なグラデーションがある、と。

またAnthropicは「agentic AI」を独立概念として定義せず、「agentic systems」の中でワークフローとエージェントを区別する整理をしています。

つまり、定義は機関によってまちまちで、2026年7月時点ではまだ定まっていないのが実情です。

医療田：

へー、、そうなんだ。

じゃあ、どっちの言葉に出会っても、あんまり気にしなくていい？

機械屋：

「気にしない」というよりは、言葉に振り回されないことが大事ですね。

どちらの用語が使われていても、確認すべきは今日お話しした2つの軸です。

● 回収 ― 用語より「構成」と「監督」

医療田：

2つの軸、、

「何体で動いているか」と「人間がどこで関わるか」。

機械屋：

そうです。

用語がAI agentでもagentic AIでも、確認すべきは同じです。

1つ目：何体構成か。

シングルなのか、マルチなのか。

これによってエラーの波及範囲と、監査ログの複雑さが変わります。

2つ目：人間はどこで関与するか。

HITLなのかHOTLなのか、介入手段はあるのか。

これによって責任の分界点とガバナンスの要件が変わります。

医療田：

今回2つの軸で整理してもらったけど、他にも知っておくべき概念ってある？

機械屋：

はい。この2軸と補完的な関係にあるものとして、「行動の可逆性」と「ツールアクセスの範囲」がありますね。

行動の可逆性は、エージェントがとった行動をあとから取り消せるかどうか。

レポートの下書きなら削除すればいい。でもメールを送信してしまったら取り消せない。

不可逆な行動ほど、承認ステップを手厚くする必要があります。

ツールアクセスの範囲は、エージェントに何をさせるか。

「データを読む」だけなのか、「データを書き換える」のか、「外部にメッセージを送る」のか。

できることの範囲が広いほど、リスクも大きくなります。

医療田：

あー、、つまり、2軸だけじゃなくて、「やり直せるのか」と「何にアクセスできるのか」もセットで考える、と。

機械屋：

そうです。

ただ、最初に確認すべきは今日の2軸です。構成と監督。

そのうえで、具体的な導入設計に入るときに、可逆性やツールアクセスを詰めていく、という順番ですね。

医療田：

なるほどね。。

で、自律性が上がるごとに、その要件が「がらっと変わる」わけだよね。

機械屋：

はい。非連続に変わる、と言ってもいいかもしれません。

わかりやすくするために、構成と監督のかけ合わせで考えてみましょう。

たとえば「シングル×HITL」。

読影AIの下書きがこれにあたります。1つのAIが下書きを作り、医師が毎回確認して、OKなら送信。ログは1本で責任も明確。「まずはここから」という導入に向いている、最もシンプルな形です。

次に「シングル×HOTL」。

文献検索エージェントのように、1つのAIが論文データベースを自動で巡回して、関連論文をリストアップし続ける。医師は結果をまとめてチェックする。「信頼性の低い論文が混ざっています」のようなアラートの設計が必要になってきます。

医療田：

ふんふん。ここまではまだイメージしやすい。

機械屋：

ここから先が「がらっと変わる」ところです。

「マルチ×HITL」は、問診AI→予約AI→文書作成AIの連携で、各ステップに人間の承認を入れる構成。安全性は高いですが、承認待ちが増えるぶん処理が遅くなって、人間のほうがボトルネックになりやすい。

そして「マルチ×HOTL」。

複数のAIが連携して自動で処理を回す。最も高速で強力ですが、ログ設計、アラート設計、緊急停止手段、責任分界点の整理、と要件が一気に増えます。

「この判断をしたのはどのAIなのか」を追えるログの仕組みがないと、問題が起きたときに原因を特定できなくなる。

医療田：

あー、、なるほど。

組み合わせが複雑になるほど、強力だけど難しくなるのか。

機械屋：

はい。

だからこそ、導入を検討するときは「今の自分たちの業務に、どの構成×どの監督が適切か」を見極めることが大事なんです。

いきなりマルチ×HOTLを目指す必要はない。シングル×HITLから始めて、実績と信頼が積み上がったら段階的に自律性を上げていく。

そういう設計が現実的ですね。

● まとめ ― 「導入しますか？」と聞かれたときに

機械屋：

では今回のポイントを整理しましょう。

・AIエージェントとは、目標に向けて計画・ツール利用・軌道修正を自律的に繰り返すAIシステム。チャットボットとの違いは「複数ステップを自律で回す」点

・構成は大きく2つ：シングルエージェント（1体完結）とマルチエージェント（複数の役割分担）。マルチが「上位」ではなく、用途による使い分け

・人間の関わり方も2つ：HITL（ループの中で承認）とHOTL（ループの外から監視・介入）。これは技術カテゴリではなく運用設計の選択

・補完的に「行動の可逆性」と「ツールアクセスの範囲」も確認する

・構成×監督のかけ合わせで要件は非連続に変わる。シングル×HITLから始めて段階的に自律性を上げていくのが現実的

・「AI agent」と「agentic AI」の用語は整理が進みつつあるが、国際規格・法令上はまだ定義が定まっていない（2026年7月時点）

・導入の話が出たら確認すべきは、①何体構成か、②人間はどこで関与するか

医療田：

、、うん。

用語はまだ揺れてるけど、中身を見る目は持てた気がする。

機械屋：

それが大事です。

新しい技術用語は次々に出てきますが、本質的な問いはそこまで変わらない。

「この仕組みは、何が自動で動いていて、人間はどこで関わるのか」。

この問いさえ押さえていれば、どんな用語で来ても対応できます。

医療田：

うん。

、、それ、Vol.19〜20のHuman AI Interactionの話にも通じるね。

機械屋：

おっしゃる通りです。

あの頃お話しした「人間とAIの関わり方の設計」が、エージェントの時代になっても、むしろ一層重要になっている。

医療田：

結局、AIがどれだけ賢くなっても、「人間がどこにいるか」が最後のカギなのかもね。

機械屋：

、、いいですね。

今日の一番の名言かもしれません。

医療田：

へへ。たまにはね笑

＝＝＝＝＝＝

● よくある質問（FAQ）

Q. AIエージェントとは何ですか？

A. 目標を受け取り、計画を立て、ツール（検索、コード実行、データベース照会など）を使い、結果を見て軌道修正するサイクルを、完了まで自律的に繰り返すAIシステムです。1問1答で完結するチャットボットとの違いは、複数ステップを自律的に回す点にあります。

Q. シングルエージェントとマルチエージェントの違いは何ですか？

A. シングルエージェントは1体のエージェントが計画から実行まで完結する構成で、文脈を一貫して保持しやすく監査も容易です。マルチエージェントは複数のエージェントが役割分担する構成で、大規模・並列のワークフローに向きますが、エージェント間の調整コストやエラーの連鎖に注意が必要です。

Q. HITL（ヒューマン・イン・ザ・ループ）とHOTL（ヒューマン・オン・ザ・ループ）の違いは何ですか？

A. HITLは人間がループの「中」に入り、各ステップや要所で承認してから次に進む設計です。HOTLは人間がループの「外」から監視し、必要時に介入する設計です。これは技術のカテゴリではなく運用設計の選択であり、同じエージェントでも承認ステップを挟めばHITL、外せばHOTLになります。

Q. AI agentとagentic AIは何が違いますか？

A. Sapkotaらの学術サーベイ論文（2025年）は「単一のエージェント＝AI agent、複数の協調＝agentic AI」という区分を提唱しましたが、国際規格（ISO/IEC 22989）はagentic AIを未定義、EU AI Actも両語に法的定義を与えていません。2026年7月時点では定義はまだ定まっておらず、用語よりも「何体構成か」「人間がどこで関与するか」を確認することが重要です。

Q. 医療現場でAIエージェント導入の話が出たら、何を確認すべきですか？

A. まず確認すべきは2点です。①何体構成か（シングルかマルチか）：エラーの波及範囲と監査ログの設計要件が変わります。②人間はどこで関与するか（HITLかHOTLか）：責任分界点とガバナンス要件が変わります。加えて「行動の可逆性」と「ツールアクセスの範囲」も重要です。シングル×HITLから始めて段階的に自律性を上げていく設計が現実的です。

＝＝＝＝＝＝

●参考

・Stuart Russell & Peter Norvig "Artificial Intelligence: A Modern Approach" 第4版（2020年）

・ISO/IEC 22989:2022 "Information technology — Artificial intelligence — Artificial intelligence concepts and terminology"

・NVIDIA, Jensen Huang CES 2025 基調講演

・Sapkota, Roumeliotis & Karkee (2025) "AI Agents vs. Agentic AI: A Conceptual Taxonomy, Applications and Challenges" Information Fusion誌

https://arxiv.org/abs/2505.10468

・Gartner Japan「AIエージェントとエージェント型AIの違い」（2025年5月14日）

https://www.gartner.co.jp/ja/newsroom/press-releases/pr-20250514-ai-agent

・総務省・経済産業省「AI事業者ガイドライン」第1.2版（2026年3月31日）

https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20260331_1.pdf

・EU AI Act Article 3(1), Article 14; 欧州委員会AI Act Service Desk FAQ