「正しいか」を超えて、仕事に参加する
Beyond asking whether it is correct: participating in the work
前の章では、AIエージェントの出力が正しいかどうかを確認するために、人がコードを理解する必要があるのかを考えました。しかし、この章で示される理由は、それだけではありません。
In the previous chapter, we considered whether people need to understand code in order to check whether an AI agent's output is correct. But that is not the only reason presented in this chapter.
より深い理由は、プロジェクトに参加するためです。ここでいう参加は、出力にただ「賛成」を示すことではありません。変更を見て、自分のシステムに対する理解を少し変え、その理解を次の仕事に持っていくことです。
The deeper reason is to participate in the project. Participation here does not mean merely saying that you agree with the output. It means looking at a change, slightly updating your understanding of the system, and carrying that understanding into the next piece of work.
話者の考えでは、人とエージェントの仕事は一回で終わる作業ではありません。おおまかには、次のようなループが続きます。
In the speaker's view, work by people and agents is not a task that ends after one pass. Roughly speaking, the following loop continues.
- エージェントが変更や提案を作ります。
- 人がその内容を見て、システムの動きや問題を理解します。
- その理解によって、人の頭の中のモデルが変わります。
- 人が次のアイデアや指示を出し、次のループが始まります。
- The agent creates a change or proposal.
- A person looks at it and understands how the system works and what problems it has.
- That understanding changes the person's mental model.
- The person gives the next idea or instruction, and the next loop begins.
この流れで重要なのは、2番目の確認が、単なる合否判定ではないことです。人が一つのループを理解すると、次のループで使える知識が増えます。その知識が、次の提案の出発点になります。
What matters in this flow is that the second step is not merely a pass-or-fail decision. When a person understands one loop, they gain more knowledge to use in the next loop. That knowledge becomes the starting point for the next proposal.
理解は、次のアイデアの材料になる
Understanding becomes material for the next idea
システムを理解するとは、細かい事実をばらばらに覚えることではありません。部品どうしの関係や、変更が全体に与える影響を含む、豊かな概念の構造を持つことです。概念の構造とは、システムの部品、目的、関係を頭の中で結びつけたモデルです。
Understanding a system does not mean memorizing isolated details. It means having a rich conceptual structure that includes the relationships among parts and the effects that a change has on the whole. A conceptual structure is a mental model that connects the system's parts, purposes, and relationships.
このモデルがあると、すでに理解したものを別の組み合わせで考えられます。そこから、最初には予想していなかった新しいアイデアが生まれます。これは、毎回エージェントや別の人に「このシステムの基本を説明してください」と頼み直すこととは違います。自分の中に、次の考えを作るための材料が残っているからです。
With this model, you can think about things you already understand in different combinations. New ideas can emerge from that process, including ideas you did not expect at first. This is different from asking an agent or another person to explain the system's basics again every time. The material for forming the next thought remains in your own mind.
例：一つの変更から次の提案へ
Example: from one change to the next proposal
これは説明のために作った例です。あるエージェントが、画面の部品を別の場所からも再利用できるようにしたとします。人がその変更を確認して、部品がどこで作られ、どの情報を受け取り、どこで表示されるかを理解しました。
This is an example created for explanation. Suppose an agent makes a screen component reusable from another location as well. The person reviews the change and understands where the component is created, what information it receives, and where it is displayed.
その理解があれば、次に「同じ仕組みを使って、利用者ごとに表示を変えられないか」と考えられます。最初の変更を承認しただけなら、この新しい提案は出てこないかもしれません。変更によって得たモデルが、次のアイデアの材料になったのです。
With that understanding, the person can next ask, "Could we use the same mechanism to change what is displayed for each user?" If they only approved the first change, this new proposal might not arise. The model gained from the change became material for the next idea.
ここでのポイントは、コードを一行ずつ暗記することではありません。変更の目的と、システム内での役割をつかむことです。細部が必要になったときは、コードやエージェントに確認できます。それでも、何を確認すべきかを判断するための全体像は、人の中に必要です。
The point here is not to memorize code one line at a time. It is to grasp the purpose of the change and its role in the system. When details are needed, you can check the code or ask the agent. Even so, you need an overall picture in your own mind to decide what to check.
「いいね」と言うことと、創造的に参加すること
Saying "I like it" versus participating creatively
理解していない人でも、出力に「いいね」や承認を示すことはできます。これは、検証の結果を伝えるだけの決定です。一方、創造的な参加では、理解した人が自分の考えを加えます。変更を見て疑問を持ったり、別の組み合わせを思いついたり、次の方向を提案したりします。
Even someone who does not understand can say "I like it" or approve an output. That is only a decision that reports the result of verification. In creative participation, by contrast, a person who understands adds their own ideas. They may question the change, think of another combination, or propose a new direction.
したがって、検証のための理解と参加のための理解は似ていますが、同じではありません。前者は、出力が条件を満たすかを判断するためのものです。後者は、その出力によって自分の理解を更新し、その更新を使って次の仕事を作るためのものです。正しい出力であっても、人がそこから何も学ばなければ、創造的な参加にはつながりません。
Therefore, understanding for verification and understanding for participation are similar but not the same. The former is for judging whether the output meets the conditions. The latter is for updating your understanding through the output and using that update to create the next piece of work. Even a correct output does not lead to creative participation if the person learns nothing from it.
システムから遠く離れすぎない
Do not become too far removed from the system
話者が問題にしているのは、人がシステムから何層も離れた場所に置かれることです。エージェントが実装し、別の仕組みが確認し、人には最後の結果だけが届く、という状態を考えてみてください。結果を承認することはできても、システムがどう動くかを直接感じる機会は少なくなります。
The speaker is concerned about putting people several layers away from the system. Imagine that an agent implements something, another mechanism checks it, and the person receives only the final result. The person can approve the result, but has fewer chances to directly feel how the system works.
システムに十分近い場所にいれば、人はその仕組みを理解し、理解をもとにアイデアを出せます。反対に、何層も離れていると、基本的な背景を毎回説明してもらわなければなりません。そのたびに考える速度が落ち、アイデアを作るための材料も少なくなります。
If people stay close enough to the system, they can understand how it works and develop ideas from that understanding. If they are several layers removed, they must have the basic background explained to them every time. Each repetition slows their thinking and leaves them with less material for creating ideas.
これは、すべてのコードを人が手で書くべきだ、という意味ではありません。大切なのは、エージェントに作業を任せても、人が次のループに入れるだけの理解を保つことです。AIが正しさの確認まで自動化しやすくなるほど、人が理解を続ける理由は、承認するためだけでなく、参加して新しい方向を作るためにあると言えます。
This does not mean that people should write all the code by hand. What matters is keeping enough understanding to enter the next loop even when work is delegated to an agent. As AI becomes better at automating correctness checks, the reason for continuing to understand is not only to approve. It is also to participate and create a new direction.
この考えは、次の問いにつながります。速い自動化によって、理解する前に仕事を進め続けたら、何が起きるのでしょうか。次章では、そのように理解を後回しにすることで生まれる「認知的負債」を扱います。
This idea leads to the next question. What happens if fast automation keeps moving the work forward before we understand it? The next chapter examines the "cognitive debt" created when understanding is put off in this way.