この講演の最後の提案は、LLMエージェントにすぐ行動させるのではなく、まずオントロジーに基づく推論器（reasoner）で提案を確認することです。推論器は、ドメインの概念、関係、制約を使って、LLMの出力がその領域で筋の通ったものかを調べます。その後で、問題がなければエージェントを先へ進めます。
This talk's final proposal is not to let an LLM agent act immediately, but first to check its proposal with an ontology-based reasoner. A reasoner uses domain concepts, relationships, and constraints to examine whether the LLM's output makes sense in that domain. The agent then proceeds only if there is no problem.
三つの役割を分ける
Separate the Three Roles
話者が示す役割分担は、次のようになります。確率的なLLMエージェントは、自然言語を生成し、次に使うツールやそのパラメーターを提案します。ツールは、外部の情報を返したり、実際の処理を行ったりします。そして、オントロジーに基づく推論器が、提案やツールの結果をドメインのルールと照らし合わせます。
The division of labor described by the speaker is as follows. A probabilistic LLM agent generates natural language and proposes the next tool to use or its parameters. A tool returns external information or performs an actual operation. Then an ontology-based reasoner compares the proposal or the tool result with the rules of the domain.
- エージェント：問題を解釈し、応答や行動の案を作ります。
- ツール：エージェントの案に応じて、情報を取得したり処理を実行したりします。
- 推論器：結果に含まれる型、関係、制約が、オントロジーと矛盾しないかを確認します。
- Agent: Interprets the problem and creates a response or action proposal.
- Tool: Retrieves information or performs processing in response to the agent's proposal.
- Reasoner: Checks whether the types, relationships, and constraints in the result are consistent with the ontology.
RDFSとOWLは何を支えるのか
What Do RDFS and OWL Support?
この推論を支える技術として、話者はRDFSとOWLを挙げます。前に出てきたRDFSでは、関係のドメインとレンジから、エンティティの型を導けます。たとえば「Bob teaches Scooter」という文から、関係の定義に従って、Bobを教師、さらに人だと推論し、Scooterを学生だと推論できます。OWLは、関係の推移性や一つの値しか許さない性質、互いに両立しないクラス、許可された値の範囲などを表すために使われます。つまり、RDFSとOWLは、グラフに書かれた事実をただ保存するだけでなく、確認に使える型や制約を与えます。
The speaker names RDFS and OWL as technologies that support this reasoning. In the earlier RDFS example, an entity's type can be derived from the domain and range of a relationship. For example, from the statement “Bob teaches Scooter,” the system can infer, according to the relationship definition, that Bob is a teacher and then a person, and that Scooter is a student. OWL can represent transitivity, the property of allowing only one value, disjoint classes, and a range of permitted values. In other words, RDFS and OWL do not merely store facts written in a graph; they provide types and constraints that can be used for checking.
この仕組みをエージェント・ループに入れると、流れは次のようになります。エージェントがツールの呼び出しを提案し、プログラムがツールを実行します。返ってきた情報を推論器が読める形にして、オントロジーを使って確認します。結果が妥当ならループを続けます。妥当でなければ、問題を伝えてLLMに戻すか、人間に確認を求めます。この確認が、エージェントを「正直に」保ち、道から外れないようにするためのガードレールです。
When this mechanism is placed in an agent loop, the flow is as follows. The agent proposes a tool call, and the program runs the tool. The returned information is put into a form the reasoner can read, and the ontology is used to check it. If the result is reasonable, the loop continues. If it is not, the system either sends the problem back to the LLM with a request for another attempt or asks a human to review it. This checking is the guardrail that helps keep the agent “honest” and on track.
ここでいうガードレールは、LLMが誤りを一度も出さないという保証ではありません。LLMは確率的に次の言葉や行動案を作るため、誤った案を出す可能性があります。推論器の役割は、その案をドメインの知識と照合し、受け入れるか、やり直すか、人間へ渡すかを決めるための根拠を与えることです。したがって、提案の中心はLLMをオントロジーに置き換えることではなく、柔軟な生成と形式的な確認を組み合わせることです。
Here, guardrails do not guarantee that the LLM will never produce an error. Because an LLM probabilistically generates the next words or action proposal, it can produce a wrong proposal. The reasoner's role is to compare that proposal with domain knowledge and provide a basis for deciding whether to accept it, try again, or pass it to a human. Therefore, the central proposal is not to replace the LLM with an ontology, but to combine flexible generation with formal checking.
例（補足）：注文を処理するエージェントが、ツールを使って返金を提案したとします。エージェントは返金の文章やパラメーターを作れますが、そのままデータベースを変更させる必要はありません。推論器が、注文との関係や返金に関する制約を確認します。確認に失敗したときは、エージェントに再提案させるか、人間が判断します。この例は、講演の提案を具体化したものです。特定の実装や、すべての注文システムに共通する規則を示すものではありません。
Example (supplement): Suppose an order-processing agent uses a tool and proposes a refund. The agent can create the refund text or parameters, but it does not have to change the database immediately. The reasoner checks the relationships to the order and the constraints concerning refunds. If the check fails, the agent can propose again or a human can decide. This example makes the talk's proposal concrete. It does not specify a particular implementation or rules shared by every ordering system.
「勝ち負けではなく、作るだけ」
“No Win, No Fail, Only Make”
話者は最後に、冒頭で紹介した「勝ちも失敗もなく、作るだけ」という考えに戻ります。ここでの実践的な意味は、エージェントとオントロジーを実際に作り、動きを観察し、予想外の結果から学ぶことです。推論器が問題を見つけた場合も、それはシステムを改善するための材料になります。作って、確認して、必要なら直すという反復が、この提案を学習と開発の両方につなげます。
At the end, the speaker returns to the idea introduced at the beginning: “There is no win or fail, only making.” Its practical meaning here is to build an agent-and-ontology system, observe how it behaves, and learn from unexpected results. If the reasoner finds a problem, that also becomes material for improving the system. Repeating the cycle of building, checking, and fixing connects this proposal to both learning and development.
技術的なまとめの後、話者は連絡先とウェブサイトの情報を案内して講演を終えます。これらは講演の終了情報であり、エージェントとオントロジーを組み合わせる仕組みを支える技術的な根拠ではありません。
After the technical summary, the speaker gives contact and website information and ends the talk. This is closing information, not technical evidence supporting the system that combines agents and ontologies.