10

17:20 - 18:37

信頼できる文脈検索を訓練し、定型更新を自動化する

この章では、会社の仕事を理解するAIエージェントを作るときの、二つ目のモデル上の課題を扱います。大きな知識グラフを持っているだけでは十分ではありません。質問に関係する部分を、モデルが安定して見つけられなければなりません。講演では、そのための訓練方法と、その理解を使った将来の自動化が説明されています。

モデルには二つの課題がある

前の段階では、メモや文書などのばらばらな情報から、読みやすい業務フローを作ることが課題でした。最先端モデル(frontier model)は、多くの情報を含む分析を作れます。しかし、詳しすぎて、顧客が本当に知りたい点を選べないことがあります。講演では、情報量の多さだけでなく、必要な細かさと明確さのバランスが大切だと説明されます。そのため、チームはオープンソースモデルを追加訓練(post-training)し、業務の流れをより役立つ形で表そうとしています。

会社の働き方を依存関係グラフで表す

チームが作ろうとしているのは、会社の働き方を表す一つのまとまった表現です。ここでいう「一つの情報源」は、必ずしも一つのデータベースや一つの文書ではありません。人、作業、判断、順番、前提条件を、同じ考え方でたどれるようにした表現です。

講演で重視されるのは、特定のグラフデータベースを選ぶことではなく、依存関係グラフ(dependency graph)という考え方です。実装にグラフデータベースを使うかPostgresを使うかは、中心的な問題ではありません。重要なのは、ある作業が別の作業や判断に依存していることを表せる点です。業務フローはおおむね直線的でも、途中には依存関係や循環が入り得ます。講演では後にDAGの違反にも触れますが、ここで形式的なグラフ定義まで示されているわけではありません。

例:承認の順番を表す

たとえば、作業Cを始める前に、AとBの両方の承認が必要だとします。単なる社員名簿や文書の一覧では、この条件が分かりにくいです。依存関係グラフなら、「Aの承認」と「Bの承認」から「Cの開始」へ矢印をつなげられます。このように表すと、エージェントは誰が関係するかだけでなく、どの条件を先に満たすべきかも扱えます。これは講演の考え方を分かりやすくするための例です。

図:会社の業務を依存関係グラフで表し、モデルを訓練してから展開する流れです。

このスライドには、会社の業務をPostgresの依存関係グラフとして表し、そのグラフ上でモデルを訓練し、MCP(Model Context Protocol)を通じて知識グラフと検索のツールを展開する流れが表示されています。矢印は前提となる関係を示します。ただし、プロセスの担当者、承認、循環を詳しく示す図ではありません。また、この表示だけから実装方法や性能を判断することはできません。

大きなグラフから必要な文脈を取り出す

二つ目の課題は、知識グラフの探索(traversal)です。これは情報をさらに保存することではありません。一つの質問に関係する、人・作業・判断・依存関係のつながりを選び、必要な部分グラフを取り出すことです。

グラフが大きくなるほど、この選択は難しくなります。モデルが関係のない枝まで拾えば、分析は長くなります。反対に、必要なつながりを落とせば、答えは不完全になります。つまり、会社の情報をグラフに入れても、モデルが正しい場所へ安定して移動できなければ、回答の質は上がりません。

カスタムツールを使う訓練

講演で示される方法では、追加訓練したモデルを強化学習(reinforcement learning、RL)の環境に置きます。そして、知識グラフを探索するための専用ツールをモデルに使わせます。モデルは、答えを書く前に、どの情報を確認し、どの関係をたどるかを学ぶ、という考え方です。

講演では、報酬(reward)の決め方、ツールの正確なインターフェース、訓練データ、評価指標、安全策は説明されていません。したがって、ここで確認できるのは「RL環境とカスタムツールを使う」という設計の方向だけです。どれほど正確に検索できるかを、数字から判断することはできません。

ツールの例として、同じ人物を特定するものがあります。たとえば、メールに書かれた名前とSlackに書かれた名前の表記が違っていても、同じ社員を指している可能性があります。エンティティ解決(entity resolution)は、その二つを同じ人物として結び付ける作業です。これは、重複した事実を見つけることや、業務グラフの不正な構造を見つけることとは別の仕事です。

別のツールは、重複や循環、DAGの違反のような問題を検出します。たとえば、同じ関係を二度登録していないか、依存関係が循環していないか、DAGとして扱う部分に許されないつながりがないかを調べます。講演はこれらの言葉を例として挙げていますが、各判定の正式な定義や実装は示していません。

「書く力」と「探す力」を分けて考える

この設計の要点は、二つの問題を混同しないことです。第一に、与えられた文脈から、顧客にとって重要な業務フローを、適切な詳しさで説明する必要があります。第二に、その説明に使う正しい文脈を、最初にグラフから取り出す必要があります。前者だけを改善しても、入力する情報が間違っていれば、きれいで詳しい誤答になります。後者だけを改善しても、取り出した情報を分かりやすいフローに整理できなければ、FDEには使いにくい結果になります。

小さな更新を将来は自動化する

講演が示す第三段階は、会社の状況と業務フローを理解したエージェントが、小さなワークフローの作業を自律的に管理することです。たとえば、顧客から定型的な担当者変更や通知先変更の依頼が来たとき、エージェントが会社の文脈を調べ、プラットフォーム上の該当フローを更新する、という流れです。これは将来の構想であり、一般的な企業活動を人間なしで運営するという主張ではありません。

この自動化の境界は、前に説明された価値とリスクの判断ともつながります。影響が小さく、確認しやすい定型更新はエージェントに任せられるかもしれません。一方、顧客の本当の運用を聞き取り、例外や部署間の事情を理解する仕事は、FDEが続けて担います。定型作業を減らす目的は、人間のFDEを消すことではなく、より価値の高い顧客理解に時間を戻すことです。

要するに、会社の情報を大量に集めるだけでは、信頼できる業務エージェントになりません。業務を依存関係として表し、必要な部分を正しく探索し、その文脈から明確なフローを作る必要があります。講演の提案では、モデルをツールとともに訓練し、将来は安全な範囲の小さな更新を自動化します。その結果、FDEは定型的な変更ではなく、顧客の仕事を理解し直す活動に集中できます。

100% スペースキーとドラッグで移動 | Ctrl/Cmdとホイールで拡大縮小