2分で読める「生成AIのいま」Vol.20 - AIの進化によってダイナミックに変化するHuman AI Interactionについて。
2分で読める「生成AIのいま」
- 生成AIについてやさしく学べるブログシリーズ。
Vol.20は前回に引き続き、Human AI Interaction(HAI)についてのお話。
AIの進化によってダイナミックに変化するHAIについて。
HAIとは何か？についてはぜひこちらの前回記事をご覧ください：
https://www.youichimachida-ai.com/.../2aivol19human-ai...
===
機械屋：
そうそう、医療田さん。
HAIを考えるにあたって、とても重要なことがあります。
医療田：
え？なになに？興味深いね。
機械屋：
ありがとうございます。それはですね。。
「最適なHAIは動的に変化していく」ということです。
医療田：
そうなの？
１．生成AI以前：人はAIの操作者だった。
機械屋：
これはよく考えれば、合点がいくことだと思います。
今の生成AIが注目される前、つまりChatGPTが出てくる前を思い出していただきたいのですが、
チャットボットが当時、どんな感じだったか、医療田さん、覚えてます？
医療田：
ああ、、
私こう見えて結構せっかちなんだけどさ。
当時のチャットボット、ちょっと、使えなかったよね。
いろいろ聞いてみても、的を得たかいとうが返ってこなくて。
「いいから早く、人間のオペレーターにつないで！」って、よく思ってた。
機械屋：
そ、そうなんですね。。
や、お気持ちわかりますよ。
生成AI以前のチャットボットには、今のように「レスポンスを自分で生成する」能力がなかったわけです。
そうすると、どうなるかというと、
医療田：
回答を全部、ひとが事前に用意しないといけない、ってことかな？
機械屋：
その通りです！
この時人間はAIに対して
操作者
だったわけですね。つまり
「人間が命令して、AIはその通りに動く」しかなかった、ということになります。
ちなみに、この関係性は、2010年代に、現在のAIの飛躍の技術的基盤となったディープニューラルネットワークが出る以前、1970年代後半から1980年代にかけて端を発した、"エキスパートシステム"という考え方に通じますね。
この"エキスパートシステム"は、エキスパートがAIに、「A1が来たらX1、A2が来たらX2、A3が来たら、、、」というように、想定されるケースをすべて人間の手であらかじめ仕込んでおく必要があったんです。
医療田：
そうなんだ、でもそんなことできなくない？
機械屋：
おっしゃる通り、想定質問をすべて1対1で網羅しておく、なんてことはなかなかできないですよね。
この時代、「人間が命令して、AIはその通りに動く」が期待され、そこで対応できない場合は、適格に人に引き継ぐ。
これが当時のHAIであった、と、いうことができますね。
２．生成AI登場後：人はAIの協働者→監督者へ。
機械屋：
そして2022年11月にChatGPTが世に出たのをきっかけに、状態は激変しました。
医療田：
ほんとだよねえ。
機械屋：
言語を扱う大規模言語モデル一つとっても、
翻訳、要約、整理、言い換え、拡張、質問応答、などなど、
挙げればきりがありませんが、
"人がAIに指示や質問をだし、AIがこれに回答、提案、人間が確認し、承認する"
ということができるようになったんです。
この際、人は1から10まですべてをAIに説明しなくても、それなりの回答が出るようになりましたよね？
医療田：
そうだね、ChatGPTにしても、出始めの時期こそ、命令文のコツ、プロンプトエンジニアリングについていろいろ言われるようになったけど、
いまはそれも結構、適当でもなんとかなる、っていうか。
機械屋：
もちろん、より質の良い回答、精緻な応答を期待してプロンプトエンジニアリングを行うことは今でも重要です。
でもそれもAIの性能向上により、徐々に「AIに任せられる範囲がひろくなって」きましたよね？
それにより、生成AI登場前は指示者だった我々が、
徐々にAIにとっての協働者に、そして監督者になりつつある、
というのは、実感としてお分かりいただけるかと思います。
３．近未来：人はAIの委任者に
機械屋：
さて、AIの進化につれて、われわれはAIにとっての操作者から協働者に、そして監督者になりつつあるわけですが、ここからさらにどうなるのかというと、、
医療田：
監督すら必要ない状態、ってこと？
機械屋：
ある意味ではそう言えるかもしれませんね。
「目標設定だけ人間が行い、具体的な業務内容はAIに一任」するということになり、我々はビジョンやゴールを設定する、つまり我々は業務全体をAIにまかせる、委任者ということになります。
ところで、医療田さん、"AIエージェント"って聞いたことありますか？
医療田：
ああ、なんとなく。
なんだっけ、複数のタスクを勝手にアレンジして目的を達成する、とか、そんな感じだったっけ？
機械屋：
そうです。
従来の生成AIは「プロンプト→レスポンス」を繰り返すだけでしたが、エージェントは目的達成に向けて複数のサブタスクを自動で計画・実行します。
研究を例に例えると、研究テーマを決めたいと思ったときに、いままではそれぞれのプロセス一つ一つをAIに補助してもらうことはできても、
これを一気に行わせることは困難でした。
医療田：
「でした。」ってことは、エージェントだとそれができるってこと？
機械屋：
そうです。たとえば「○○についての研究をしたい」と要望を伝えると
先行研究の検索→現在わかっていることを要約→研究課題の策定→方法論の検討
というように、複数のサブタスクを自動で計画・実行し、初期的な研究計画案を素早くドラフト生成できるようになると考えられます。
医療田：
な、なるほど。。
話をもとに戻すと、AIの進化に伴い、タスク遂行のために人間がすべき役割は操作者から協働者そして監督者から、将来的には委任者へと変化していきます。
これに伴って、当然人間、人間とAIの相互関係、つまりHAIは変化していくことが想像できますよね。AI技術や社会の変化に合わせ、常にアップデートが必要なわけです。
そして、AIの能力範囲がどんどん高度化し、自律的になってきている実情を考えると、、、
医療田：
あ、なるほど！
最初に行っていた研究テーマ
が重要になる、ってことだよね？！
機械屋：
そのとおりなんです！
・信頼性
・説明可能性
・人間中心設計
・協調性
こういったHAIにおけるホットな研究テーマというのは、まさに今後の"AIのエージェント化"において必要不可欠な、時機を得たトピックス、ということになりますね。
そのとおりです！さらに
・アライメント（AIの行動目標を人間の価値や規範に合わせる）
・継続的アップデート（技術・環境・ニーズの変化に応じて設計を見直す）
も、AIエージェント時代には不可欠な視点になります。
医療田：
なるほどね、話がつながったよ～！
＝＝＝＝＝
▷2分で読める「生成AIのいま」シリーズバックナンバはブログからどうぞ:
