この章では、確率的に文章や行動案を作るエージェントと、オントロジーのように形式化された知識を組み合わせる考え方を説明します。話者は、この組み合わせを**ニューロシンボリックAI（neuro-symbolic AI）**と呼んでいます。
This chapter explains how to combine agents that create text or action proposals probabilistically with formalized knowledge such as an ontology. The speaker calls this combination neuro-symbolic AI.
二つの仕組みを組み合わせる
Combining two systems
話者の主張では、LLMエージェントは確率的な仕組みです。入力に対して、次に現れそうな言葉や、次に取るべき行動を予測します。そのため、決まった規則だけを順番に実行するのではなく、さまざまな表現や計画を柔軟に作れます。
According to the speaker, an LLM agent is a probabilistic system. Given an input, it predicts likely next words or the next action to take. Therefore, instead of only executing fixed rules in sequence, it can flexibly create different expressions and plans.
一方、オントロジーは、ある領域に何があり、それらがどう関係するかを形式的に表すものです。そこに記号的AI（symbolic AI）の規則や知識グラフを組み合わせると、領域についての基準を明示できます。ここでいう記号的な仕組みは、言葉を生成するモデルとは別に、型、関係、規則などを扱います。
An ontology, on the other hand, formally represents what exists in a domain and how those things are related. When it is combined with symbolic AI rules and a knowledge graph, it can make the standards for a domain explicit. Here, the symbolic system handles types, relationships, and rules separately from the model that generates language.
ニューロシンボリックAIとは、ニューラルネットワークを、記号的AI、ルールベース・システム、知識グラフなどにつなぐ考え方です。ニューラル側は、入力を解釈して文章や行動案を作ります。記号側は、その案を領域の知識や規則と照らし合わせます。どちらか一方だけで、話者が説明するエージェント全体になるわけではありません。
Neuro-symbolic AI is the idea of connecting neural networks to symbolic AI, rule-based systems, knowledge graphs, and similar systems. The neural side interprets input and creates text or an action proposal. The symbolic side compares that proposal with domain knowledge and rules. Neither side alone is the complete agent described by the speaker.
オントロジーが「道から外れない」ための基準になる
An ontology provides a standard for staying on track
話者が提案する仕組みは、次のように動きます。まず、確率的なモデルが回答やツールの使い方を提案します。次に、オントロジーとその規則を参照して、提案がその領域で妥当かを確認します。必要なら、検証器（validator）や推論器（reasoner）が、結果を受け入れるか、モデルに戻すかを判断します。
The mechanism the speaker proposes works as follows. First, the probabilistic model proposes an answer or a way to use a tool. Next, the system refers to the ontology and its rules to check whether the proposal is reasonable in that domain. If needed, a validator or reasoner decides whether to accept the result or send it back to the model.
この意味で、記号的な側はLLMをガードレール（guardrail）の内側に保つ役割を持ちます。ガードレールは、モデルが絶対に間違えないようにする壁ではありません。モデルの提案を、明示された領域の基準に従って調べるための仕組みです。後で扱うRDFSやOWLは、この記号的な支援を具体化する技術として登場します。
In this sense, the symbolic side helps keep the LLM inside guardrails. Guardrails are not a wall that makes it impossible for the model to be wrong. They are a way to examine the model's proposal according to explicit domain standards. RDFS and OWL, discussed later, are technologies that make this symbolic support concrete.
ハルシネーションをどう見るか
How should we view hallucination?
話者は、LLMの**ハルシネーション（hallucination）**を、確率的な生成の結果、またはその特徴として扱います。人間も、まだ存在しないものを想像し、それを現実に作ることがあります。話者は、LLMにもそのような想像的な生成力がある、と説明しています。
The speaker treats hallucination in an LLM as a consequence, or a feature, of probabilistic generation. People also imagine things that do not yet exist and then create them in reality. The speaker explains that LLMs have a similar imaginative ability to generate.
ただし、「特徴」と呼ぶことは、根拠のない出力をすべて受け入れてよい、という意味ではありません。話者の表現は、LLMが新しい組み合わせを生成する性質を強調するものです。この章の中心は、その生成をそのまま信じることではなく、形式的な知識と規則で確認することです。どの出力を受け入れられるかについて、ここでの話者の説明は細かく定めていません。
However, calling it a feature does not mean that every unsupported output should be accepted. The speaker's wording emphasizes the LLM's ability to generate new combinations. The central point of this chapter is not to trust that generation as-is, but to check it with formal knowledge and rules. The speaker's explanation here does not specify in detail which outputs are acceptable.
例：柔軟な提案と形式的な確認
Example: flexible proposals and formal checking
例（この章の理解のための作例）
Example (created to clarify this chapter)
ある問い合わせに対して、エージェントが「このツールを使い、この引数で調べます」と提案したとします。LLMは、自然な文章を理解し、状況に合いそうな引数を作るのが得意です。しかし、その引数やツールの結果が、組織の領域モデルと合っているかは別に確認する必要があります。
Suppose that, for an inquiry, an agent proposes, “I will use this tool with these arguments to investigate it.” An LLM is good at understanding natural language and creating arguments that seem to fit the situation. But whether those arguments or the tool's result match the organization's domain model must be checked separately.
そこでオントロジーが、対象となる種類、関係、許される条件を示します。検証器は、エージェントの提案やツールの結果がその基準に反していないかを調べます。反していれば、モデルに別の案を求めたり、処理を止めて人に確認してもらったりできます。これは話者の考えを具体化した作例であり、動画が特定の問い合わせ手順を示しているわけではありません。
The ontology therefore describes the relevant types, relationships, and permitted conditions. A validator checks whether the agent's proposal or the tool's result violates those standards. If it does, the system can ask the model for another proposal or stop and ask a person to review it. This is an example created to make the speaker's idea concrete; the video does not show a specific inquiry procedure.
この分担では、確率的なエージェントが柔軟な生成と行動計画を担当し、オントロジー側が領域に関する形式的な確認を担当します。オントロジーを加えても、LLMの生成が確率的でなくなるわけではありません。生成する側と確認する側をつなぐことが、「収束」の意味です。
With this division of labor, the probabilistic agent handles flexible generation and action planning, while the ontology side handles formal checks about the domain. Adding an ontology does not make the LLM's generation non-probabilistic. Connecting the generator and the checker is what “convergence” means here.
次に見ること
What to look at next
次の章では、オントロジーをエンティティ、関係、プロパティからなるグラフとして考えます。その後、RDFSとOWLが型を導いたり、関係の制約を表したりする方法を見ます。さらに、エージェントがツールを使うループに、検証器をどこで入れるかを確認します。ここで導入した分担が、後の具体的な検証ループにつながります。
In the next chapter, we will think of an ontology as a graph made of entities, relationships, and properties. We will then see how RDFS and OWL can derive types and express constraints on relationships. Finally, we will examine where to place a validator in the loop in which an agent uses tools. The division introduced here leads to the concrete validation loop discussed later.