■「全ての間の関係」とはどういうことか

偉い人に「全ての間の関係を保存するシステムを作れねぇか」と言われたことがある

要件がざっくりしすぎてなんのことを言っているか全くわからないだろう、俺もわからん

で、数学的に分析した結果、関係とは、ノード集合Vがまず存在し、

r: ∪(V^{q+1}) → R

を意味する。要するに、この世の森羅万象を表すノードを任意個引っ張ってきて、そこに数値(あるいはラベル)を割り当てるわけだ。

ところが、森羅万象など事前に知ることは出来ない。どうするのか。

と、アイデアはいくつかあった。

• ノードや関係を利用者が追加できる仕組みを作ること。
• クロールなどを行い、そこから自動的に関係を見つける。
• 既存のナレッジDBを起点にし、起点の関係から関係抽出モデルを学習させて新たな関係を見つける。

結局、ビジネスの衰退によりそのようなシステムを作ることはなくなったが、以下のようなツールはそれに近いと思う。

Compare anything: https://www.diffen.com/

このツールでは、「関係性」を見つける代わりに、ノードの属性や説明を比較させるような仕組みになっている。

なーるほど、こういうやり方があったかぁ、とこれを見たときは思ったね。

でも日本では流行らない可能性が高い。というのも、こういうツールは、Wikipedia編集レベルで熱意がなければ知識が全然増えていかないのである。

使い方としては、2つのアイテム名を入力してポチッとボタンを押し、記事があればそれを表示、なければノードの属性を表示、なければ編集ボタンを表示、となっている。

森羅万象のノードの編集を誰が行うのか、という話である。

だが、最近のLLMの進化により、関係や説明や属性の抽出を自動的に行える可能性が出てきた。

その場合、「○○(ジャンル)の属性はA1,...,Anです。これらをインターネット上の情報から抽出してください」といったプロンプトになるかもしれない。

少なくとも「インターネット上に存在する」様々な物事の関係性を、LLMを用いて自動抽出し、それを保存できるわけである。

Diffbotというツールがあるが、LLMはそれよりも高価な代替案であり、成功すればかなり便利な知識グラフを構築できる可能性がある (ただしLLMとサーバーの利用コストは高い)

追記: 次のリンクのような議論は関連性が高い。https://community.openai.com/t/entity-and-relation-extraction-fine-tuning/35464

追記2:

いいか、まず関係抽出ってのは知識DBの任意のエンティティ間の関係ラベルを予測するような問題なんよ

で、ネット情報などをクロールして関係ラベルを見つけるってタスクがあるんだけど、LLMが出る前は精度の低い方法で文書を構造化するような方法しかなかったわけ

で今思い出したんだけど、「じゃあLLMつかえるじゃん」ってね

過去にできなかったことができるようになったという思いつきを書いたまでよ

Permalink | 記事への反応(2) | 08:07

ツイートシェア