4:08 - 5:24
理解が参加と創造的な飛躍を可能にする
「正しいか」を超えて、仕事に参加する
前の章では、AIエージェントの出力が正しいかどうかを確認するために、人がコードを理解する必要があるのかを考えました。しかし、この章で示される理由は、それだけではありません。
より深い理由は、プロジェクトに参加するためです。ここでいう参加は、出力にただ「賛成」を示すことではありません。変更を見て、自分のシステムに対する理解を少し変え、その理解を次の仕事に持っていくことです。
話者の考えでは、人とエージェントの仕事は一回で終わる作業ではありません。おおまかには、次のようなループが続きます。
- エージェントが変更や提案を作ります。
- 人がその内容を見て、システムの動きや問題を理解します。
- その理解によって、人の頭の中のモデルが変わります。
- 人が次のアイデアや指示を出し、次のループが始まります。
この流れで重要なのは、2番目の確認が、単なる合否判定ではないことです。人が一つのループを理解すると、次のループで使える知識が増えます。その知識が、次の提案の出発点になります。
理解は、次のアイデアの材料になる
システムを理解するとは、細かい事実をばらばらに覚えることではありません。部品どうしの関係や、変更が全体に与える影響を含む、豊かな概念の構造を持つことです。概念の構造とは、システムの部品、目的、関係を頭の中で結びつけたモデルです。
このモデルがあると、すでに理解したものを別の組み合わせで考えられます。そこから、最初には予想していなかった新しいアイデアが生まれます。これは、毎回エージェントや別の人に「このシステムの基本を説明してください」と頼み直すこととは違います。自分の中に、次の考えを作るための材料が残っているからです。
例：一つの変更から次の提案へ
これは説明のために作った例です。あるエージェントが、画面の部品を別の場所からも再利用できるようにしたとします。人がその変更を確認して、部品がどこで作られ、どの情報を受け取り、どこで表示されるかを理解しました。
その理解があれば、次に「同じ仕組みを使って、利用者ごとに表示を変えられないか」と考えられます。最初の変更を承認しただけなら、この新しい提案は出てこないかもしれません。変更によって得たモデルが、次のアイデアの材料になったのです。
ここでのポイントは、コードを一行ずつ暗記することではありません。変更の目的と、システム内での役割をつかむことです。細部が必要になったときは、コードやエージェントに確認できます。それでも、何を確認すべきかを判断するための全体像は、人の中に必要です。
「いいね」と言うことと、創造的に参加すること
理解していない人でも、出力に「いいね」や承認を示すことはできます。これは、検証の結果を伝えるだけの決定です。一方、創造的な参加では、理解した人が自分の考えを加えます。変更を見て疑問を持ったり、別の組み合わせを思いついたり、次の方向を提案したりします。
したがって、検証のための理解と参加のための理解は似ていますが、同じではありません。前者は、出力が条件を満たすかを判断するためのものです。後者は、その出力によって自分の理解を更新し、その更新を使って次の仕事を作るためのものです。正しい出力であっても、人がそこから何も学ばなければ、創造的な参加にはつながりません。
システムから遠く離れすぎない
話者が問題にしているのは、人がシステムから何層も離れた場所に置かれることです。エージェントが実装し、別の仕組みが確認し、人には最後の結果だけが届く、という状態を考えてみてください。結果を承認することはできても、システムがどう動くかを直接感じる機会は少なくなります。
システムに十分近い場所にいれば、人はその仕組みを理解し、理解をもとにアイデアを出せます。反対に、何層も離れていると、基本的な背景を毎回説明してもらわなければなりません。そのたびに考える速度が落ち、アイデアを作るための材料も少なくなります。
これは、すべてのコードを人が手で書くべきだ、という意味ではありません。大切なのは、エージェントに作業を任せても、人が次のループに入れるだけの理解を保つことです。AIが正しさの確認まで自動化しやすくなるほど、人が理解を続ける理由は、承認するためだけでなく、参加して新しい方向を作るためにあると言えます。
この考えは、次の問いにつながります。速い自動化によって、理解する前に仕事を進め続けたら、何が起きるのでしょうか。次章では、そのように理解を後回しにすることで生まれる「認知的負債」を扱います。
出典
- 話者の主張が始まる箇所（約04:09）：YouTubeで見る