Fuzzy Retrieval

Das Fuzzy Retrieval hat sich seit den 1970er Jahren entwickelt. Hier benennt Fuzzy-Information-Retrieval ein Information Retrieval, das auf der Fuzzy-Logik basiert.

Das Fuzzy-IR-Modell

Das Fuzzy-IR-Modell ist zu definieren mit einem Quadrupel ${\displaystyle \langle T,Q,D,F\rangle }$, wobei

• ${\displaystyle T=\{t_{1},t_{2},\dotsc ,t_{n}\}}$ eine Menge von Indextermen, die Abfragen und Dokumente beschreiben.
• ${\displaystyle Q=\{q_{1},q_{2},\dotsc ,q_{m}\}}$ eine Menge von Abfragen, die aus Indextermen bestehen. Dabei lassen sich die Indexterme durch logische Operationen AND, OR und NOT verknüpfen.
• ${\displaystyle D=\{d_{1},d_{2},\dotsc ,d_{k}\}}$ eine Menge von Dokumenten. Jedes ${\displaystyle d_{j}\in D,j=1,2,\dotsc ,k}$ ist durch ${\displaystyle \{(t_{1},w_{j1}),\dotsc ,(t_{n},w_{jn})\}}$ zu repräsentieren, wobei ${\displaystyle w_{ji}(i=1,2,\dotsc ,n)}$ die Wichtigkeit von Term ${\displaystyle t_{i}}$ in ${\displaystyle d_{j}}$ darstellt und einen Wert aus dem Intervall ${\displaystyle [0,1]}$ einnimmt.
• ${\displaystyle F}$ ist eine Rankingfunktion

${\displaystyle F\colon D\times Q\to [0,1]}$,

${\displaystyle F(d,q)\in [0,1]}$.

Der Wert repräsentiert die Ähnlichkeit zwischen dem Dokument ${\displaystyle d}$ und der Abfrage ${\displaystyle q}$.

Für eine Abfrage gilt Folgendes:

1. Eine Abfrage ${\displaystyle q}$ ist eine wohlgeformte, propositionale Formel.
2. Ein individueller Indexterm ist eine Abfrage: ${\displaystyle q=t_{i}}$. Diese Art von Abfrage nennt man Atomabfrage.
3. Wenn ${\displaystyle q}$ eine Abfrage ist, ist ${\displaystyle \neg q}$ (die Negation von ${\displaystyle q}$) auch eine Abfrage.
4. Wenn ${\displaystyle q}$ und ${\displaystyle q'}$ Abfragen sind, sind ${\displaystyle q\cup q'}$(${\displaystyle q}$ oder ${\displaystyle q'}$) und ${\displaystyle q\cap q'}$ (${\displaystyle q}$ und ${\displaystyle q'}$) auch Abfragen.

Die Fuzzy-Mengen-Operationen werden wie folgt verwendet:

${\displaystyle F(d_{j},t_{1}{\text{ AND }}t_{2})=\min(w_{j1},w_{j2})}$

${\displaystyle F(d_{j},t_{1}{\text{ OR }}t_{2})=\max(w_{j1},w_{j2})}$

${\displaystyle F(d_{j},t_{1}')=1-w_{j1}}$

Nun wird ein Beispiel zur Verdeutlichung der Anwendung von Fuzzy-IR-Modell genannt. Die Abfrage lautet:

${\displaystyle q_{1}={\text{Golden AND Silver}}}$

Es gibt zwei Dokumente:

${\displaystyle d_{1}=\{({\text{Golden}},\,0{,}4),\,({\text{Silver}},\,0{,}4)\}}$

${\displaystyle d_{2}=\{({\text{Golden}},\,0{,}4),\,({\text{Silver}},\,0{,}7)\}}$

Nach der Operation kommt es zum Ergebnis:

${\displaystyle F(d_{1},t_{1}{\text{ AND }}t_{2})=\min(0{,}4,\ 0{,}4)=0{,}4}$

${\displaystyle F(d_{2},t_{1}{\text{ AND }}t_{2})=\min(0{,}4,\ 0{,}7)=0{,}4}$

Die gleichen Resultate bei ${\displaystyle d_{1}}$ und ${\displaystyle d_{2}}$ sagen aus, dass die Ähnlichkeit zwischen ${\displaystyle d_{1}}$ und ${\displaystyle q_{1}}$ mit der zwischen ${\displaystyle d_{2}}$ und ${\displaystyle q_{1}}$ gleich ist. Aber die meisten Leute würden entscheiden, dass ${\displaystyle d_{2}}$ dem ${\displaystyle q_{1}}$ ähnlicher als ${\displaystyle d_{1}}$ wäre. Hier ist das unerwünschte Ergebnis darauf zurückzuführen, dass die Operation nur auf ein Termgewicht Rücksicht nimmt. Zudem beschränken sich die einfachen Fuzzy-Menge-Operationen lediglich auf zwei Terme. Folgend werden zwei entwickelte Fuzzy-Modelle vorgestellt, die beliebig viele Terme evaluieren können. Weiterhin lässt sich ein Parameter als „softness factor“ zur Lösung des obengenannten Problems (des auf ein Gewicht angewiesenen Ergebnisses) in die Modelle einführen

Erweiterte Fuzzy-IR-Modelle

Das Waller-Kraft-Modell

${\displaystyle F(d_{j},t_{1}{\text{ AND }}\dots {\text{ AND }}t_{n})=(1-\gamma )\cdot \min\{w_{j1},\dots ,w_{jn}\}+\gamma \cdot \max {w_{j1},\dots ,w_{jn}}}$, ${\displaystyle 0\leqq \gamma \leqq 0{,}5}$;

${\displaystyle F(d_{j},t_{1}{\text{ OR }}\dots {\text{ OR }}t_{n})=(1-\gamma )\cdot \min\{w_{j1},\dots ,w_{jn}\}+\gamma \cdot \max\{w_{j1},\dots ,w_{jn}\}}$, ${\displaystyle 0{,}5\leqq \gamma \leqq 1}$.

Das Modell mischt die Operation Maximum mit Minimum und hat bessere Effektivität als beim einfachen Fuzzy-Modell.

Das Paice-Modell

Bei einer AND-Verknüpfung: ${\displaystyle w_{ji}}$ der Größe nach in ansteigender Reihenfolge sortiert, d. h. ${\displaystyle w_{j1}\leqq \dots \leqq w_{jn}}$

${\displaystyle F(d_{j},t_{1}{\text{ AND }}\dots {\text{ AND }}t_{n})=\left[\sum _{i=1}^{n}(r^{i-1}\cdots w_{ji})\right]/\left[\sum _{i=1}^{n}r^{i-1}\right]}$, ${\displaystyle 0\leqq r\leqq 1}$.

Bei einer OR-Verknüpfung: ${\displaystyle w_{ji}}$ der Größe nach in absteigender Reihenfolge sortiert, d. h. ${\displaystyle w_{j1}\geqq \dots \geqq w_{jn}}$

${\displaystyle F(d_{j},t_{1}{\text{ OR }}\dots {\text{ OR }}t_{n})=\left[\sum _{i=1}^{n}(r^{i-1}\cdot w_{ji})\right]/\left[\sum _{i=1}^{n}r^{i-1}\right]}$, ${\displaystyle 0\leqq r\leqq 1}$.

Dieses Modell berücksichtigt alle Termgewichte bei der Berechnung der Ähnlichkeit. Aber es verlangt höheren Berechnungsaufwand als beim Waller-Kraft-Modell.

Vergleich

In der folgenden Tabelle werden die Ergebnisse von ${\displaystyle d_{1}}$ und ${\displaystyle d_{2}}$ bei einfachem Fuzzy-IR-Modell, Waller-Kraft-Modell sowie Paice-Modell miteinander verglichen.

Der Ähnlichkeitsgrad zwischen ${\displaystyle d_{1}}$ und ${\displaystyle q_{1}}$ ist bei den drei Modellen gleich, das ist verständlich. Der Unterschied entsteht bei den Ergebnissen von ${\displaystyle d_{2}}$, wobei die von den zwei erweiterten Modellen größer als das bei einfachem Fuzzy-IR-Modell sind, was eher der Erwartung entspricht. Deswegen kann man sagen, dass die beiden Modelle bessere Effektivität beim Auffinden als das einfache Fuzzy-IR-Modell haben.

Zwar mischt das Waller-Kraft-Modell Maximum mit Minimum, aber es beachtet nur diese zwei Termgewichte, was zum Problem bei Abfragen mit mehr als zwei Termen führen kann. Beispiel:

${\displaystyle q_{2}=t_{1}{\text{ OR }}t_{2}{\text{ OR }}t_{3}{\text{ OR }}t_{4}{\text{ OR }}t_{5}}$

${\displaystyle d_{3}=\{(t_{1},\,0{,}1),\,(t_{2},\,0{,}5),\,(t_{3},\,0{,}5),\,(t_{4},\,0{,}5),\,(t_{5},\,0{,}8)\}}$

${\displaystyle d_{4}=\{(t_{1},\,0{,}1),\,(t_{2},\,0{,}2),\,(t_{3},\,0{,}2),\,(t_{4},\,0{,}2),\,(t_{5},\,0{,}8)\}}$

Es ist klar, dass der Ähnlichkeitsgrad zwischen ${\displaystyle d_{3}}$ und ${\displaystyle q_{2}}$ größer als der zwischen ${\displaystyle d_{4}}$ und ${\displaystyle q_{2}}$ ist. Aber nach der Gleichung bei Waller-Kraft-Modell werden gleiche Ergebnisse bei ${\displaystyle d_{3}}$ und ${\displaystyle d_{4}}$ berechnet, welcher Wert für den Parameter ${\displaystyle \gamma }$ auch bestimmt wird, weil es bei diesem Modell nur auf das ${\displaystyle \min }$ und ${\displaystyle \max }$-Termgewicht Rücksicht genommen wird. Somit entsteht das Problem. Im Vergleich dazu ist das Paice-Modell zwar komplexer, aber es berücksichtigt alle Termgewichte bei der Berechnung und vermeidet deswegen dieses Problem.

Die Einführung des Termgewichtes in die Abfrage

Die gerade gezeigten Modelle berücksichtigen keine Gewichte von Termen in Abfrage, wobei alle Terme die gleiche Wichtigkeit in Abfragen haben. Es ist bekannt, dass die Einführung der Gewichte von Termen in die Abfragen die Effektivität des Auffindens verbessern kann. Mit dem Termgewicht wird die Abfrage repräsentiert: ${\displaystyle q_{k}=\{(t_{1},w_{k1}),\dots ,(t_{n},w_{kn})\}}$, ${\displaystyle w_{k}\in [0,1]}$. Im Retrieval werden die Gewichte von Termen in Abfragen und Dokumenten multipliziert, das heißt

${\displaystyle F{\bigl (}d_{j},(t_{i},w_{ki}){\bigr )}=w_{ji}\cdot w_{ki}}$.

Eine Abfrage ohne Termgewicht gleicht einer Abfrage, in der die Gewichte von allen Termen „1“ betragen. Ein Term wird weggenommen, wenn dessen Gewicht null ist, das bedeutet, dass der Term keinen Einfluss auf die Abfrage hat.

Obwohl das Waller-Kraft-Modell und das Paice-Modell keine Methode anbieten, die Termgewichte in Abfragen zu evaluieren, hat das P-Norm-Modell Formeln für die Kalkulation der Termgewichte in Abfragen.

Fuzzy-IR-Modell mit Abfrage-Gewichten

Das P-Norm-Modell mit Abfrage-Gewichten^[1]

${\displaystyle F{\bigl (}d_{j},(t_{q(k)1},w_{q(k)1}){\text{ AND }}\dots {\text{ AND }}(t_{q(k)n},w_{q(k)n}){\bigr )}=1-\left[\left[\sum _{i=1}^{n}(1-w_{ji})^{p}\cdot w_{q(k)i}^{p}\right]/\left[\sum _{i=1}^{n}w_{ji}^{p}\right]\right]^{1/p}}$, ${\displaystyle 1\leqq p<\infty }$,

${\displaystyle F{\bigl (}d_{j},(t_{q(k)1},w_{q(k)1}){\text{ OR }}\dots {\text{ OR }}(t_{q(k)n},w_{q(k)n}){\bigr )}=1-\left[\left[\sum _{i=1}^{n}w_{ji}^{p}\cdot w_{q(k)i}^{p}\right]/\left[\sum _{i=1}^{n}w_{ji}^{p}\right]\right]^{1/p}}$, ${\displaystyle 1\leqq p<\infty }$.

Hier ist ${\displaystyle p}$ der Parameter und repräsentiert den Grad an Genauigkeit. „1“ bedeutet wenig genau, während ${\displaystyle \infty }$ sehr genau heißt.

Term-Relationen

Fuzzy-Term-Relationen bezeichnet man als Fuzzy-Thesauren. Hier bedeutet diese Relation eine Fuzzy-Relation auf einer Fuzzy-Menge, die die Interpretation von einem Fuzzy-Graph hat. Formal wird angenommen: ${\displaystyle T=\{t_{1},t_{2},\dotsc ,t_{m}\}}$ ist eine Menge von Termen und ${\displaystyle D=\{d_{1},d_{2},\dotsc ,d_{n}\}}$ eine Menge von Dokumenten. Eine (allgemeine) Term-Relation wird definiert durch eine Fuzzy-Relation auf ${\displaystyle T\cup D:R(x,y),x,y\in T\cup D}$. (Hier werden Terme und Dokumente in eine gesamte Menge vereinigt, obwohl man es Term-Relation nennt.) Drei Typen der Relationen sind einbezogen:

1. Eine Relation zwischen zwei Termen, ${\displaystyle R(t,t'),t,t'\in T}$,
2. Eine Relation zwischen zwei Dokumenten, ${\displaystyle R(d,d'),d,d'\in D}$,
3. Eine Relation zwischen einem Term und einem Dokument: ${\displaystyle R(t,d)}$ oder ${\displaystyle R(d,t),t\in T,d\in D}$.

Die untengenannten Probleme in Term-Relationen werden dann diskutiert:

1. konkrete Beispiele für Term-Relationen,
2. Methode von Beschaffung und Bildung der Term-Relationen,
3. Methode von Verwendung der Term-Relationen in Information Retrieval.

Beispiele für Term-Relationen

Die Thesauren und ihre Fuzzy-Versionen sind typische Beispiele für Term-Relationen, wobei die Fuzzy-Relation ${\displaystyle R}$ nicht auf ${\displaystyle T\cup D}$, sondern auf ${\displaystyle T}$ definiert wird. Verschiedene Typen von Fuzzy-Thesauren werden berücksichtigt. Zum Beispiel sieht Reisinger Fuzzy-Äquivalenz und Fuzzy-ordnende Relationen als natürliche Generalisationen von scharf kategorischen und hierarchischen Relationen an.^[2] Tahani erwähnt auch partielle Fuzzy-Ordnung.^[3] Redecki schlägt die Verwendung von einer Fuzzy-Äquivalenz-Relation zusammen mit einer Teilmenge der elementaren Terme und einer Termgeneralisationsrelation vor.^[4]

In der Forschung von Fuzzy-Thesauren werden symmetrische und unsymmetrische Fuzzy-Relationen sowie Fuzzy-Transitivität beachtet, deren Annahme jedoch zu einem Problem führt, weil man in Realität keine Fuzzy-Transitivität direkt finden kann. Dieses Problem ist durch die Berücksichtigung von Fuzzy-Graphen (ungerichtete Graphen) und Digraphen^[5] zu lösen. Angegeben ist eine Fuzzy-Relation ${\displaystyle R}$, die nicht transitiv sein muss. Diese Relation lässt sich durch einen Fuzzy-Digraph repräsentieren, und ein „transitive closure“ wird überdacht, ${\displaystyle R^{*}=R\cup R_{2}\cup \dots \cup R_{k}\cup \cdots }$ (${\displaystyle R^{k}=R_{k-1}\circ R}$, wobei ${\displaystyle \circ }$ die ${\displaystyle \max }$-${\displaystyle \min }$-Komposition impliziert). ${\displaystyle R^{*}}$ bedeutet den Grad von Erreichbarkeit auf dem Digraph, und zwar ist ${\displaystyle R*(x,y)}$ der ${\displaystyle \max }$-Wert von ${\displaystyle \alpha }$-Schnitt, wobei ${\displaystyle x}$ auf dem scharfen Digraphen von ${\displaystyle y}$ aus erreichbar ist.

Die obengenannten Operationen und Eigenschaften von Fuzzy-Relationen werden hier zusammengefasst:

1. Angegeben sind zwei Fuzzy-Relationen ${\displaystyle R}$ und ${\displaystyle S}$, die auf ${\displaystyle T}$ definiert werden. Die ${\displaystyle \max }$-${\displaystyle \min }$-Komposition: ${\displaystyle (R\circ S)(x,z)=\max _{y\in T}\min[R(x,y),S(y,z)]}$.
2. Eine Relation ${\displaystyle R}$ auf einer Menge ${\displaystyle T}$ wird bezeichnet als
   1. reflexiv, wenn für alle ${\displaystyle x}$, ${\displaystyle x\in T}$, ${\displaystyle R(x,x)=1}$,
   2. symmetrisch, wenn für alle ${\displaystyle x}$ und ${\displaystyle y}$, ${\displaystyle x,y\in T}$, ${\displaystyle R(x,y)=R(y,x)}$,
   3. transitiv, wenn für alle ${\displaystyle x}$ und ${\displaystyle y}$, ${\displaystyle x,y\in T}$, ${\displaystyle R(x,y)\leqq \max _{z\in T}\min[R(x,z),R(z,y)]}$.

Konstruktion der Term-Relationen

Verschiedene Forschungen behandeln unter unterschiedlichen Annahmen die Methoden von automatischer Konstruktion der Fuzzy-Relation von Termen oder von Dokumenten. Eine typische Methode dafür ist die Verwendung von Dokument-Term-Matrix ${\displaystyle A=(a_{ij})}$, wobei ${\displaystyle a_{ij}}$ das Gewicht von Term ${\displaystyle t_{j}}$ in dem Dokument ${\displaystyle d_{i}}$ darstellt. Hier wird angenommen: ${\displaystyle \gamma _{j}=\sum _{i}a_{ij}/d_{i}}$ ist die Fuzzy-Menge, die dem Term ${\displaystyle t_{j}}$ entspricht. Eine symmetrische Relation ${\displaystyle R_{s}(t_{j},t_{k})}$ und eine unsymmetrische Relation ${\displaystyle R_{n}(t_{j},t_{k})}$ sind definiert durch

${\displaystyle R_{s}(t_{j},t_{k})=\vert \gamma _{j}\cap \gamma _{k}\vert /\vert \gamma _{j}\cap \gamma _{k}\vert }$,

${\displaystyle R_{n}(t_{j},t_{k})=\vert \gamma _{j}\cap \gamma _{k}\vert /\vert \gamma _{j}\vert }$,

wobei ${\displaystyle \vert \gamma _{j}\vert =a_{1j}+a_{2j}+\dots +a_{nj}}$ die ${\displaystyle \sum }$-Summe ist. Diese Methode basiert auf der Annahme, dass die Bedeutung von den beiden Termen auch ähnlich ist, wenn die zwei Patterns von ${\displaystyle \gamma _{j}}$ und ${\displaystyle \gamma _{k}}$ ähnlich sind. Die Annahme von ${\displaystyle R_{n}(t_{j},t_{k})}$ ist, dass ${\displaystyle \gamma _{j}}$ eine engere Bedeutung als ${\displaystyle \gamma _{k}}$ hat, wenn ${\displaystyle \gamma _{j}}$ der ${\displaystyle \gamma _{k}}$ inklusive ist.

Verwendung von Term-Relationen in den reellen Zahlen

Es gibt zwei Basismethoden von Verwendung der Term-Relationen in Information Retrieval. Wenn eine Term-Relation als ein Netzwerk ermöglicht wird, in dem die Dokumente Terminalknoten sind und eine Abfrage ein Originalknoten ist, wird das Retrieval durch die Verfolgung vom Netzwerk durchgeführt. Andererseits, wenn eine Term-Relation ${\displaystyle R}$ auf ${\displaystyle T}$ zusammen mit einer Fuzzy-Relation ${\displaystyle F(d,t)}$ und einem Fuzzy-Abfrage-Vektor ${\displaystyle q=\sum \nolimits _{j}{\frac {w_{j}}{t_{j}}}}$ angegeben wird, ist eine einfache Standardmethode für Retrieval der Dokumente die Kalkulation von einer Fuzzy-Menge ${\displaystyle \delta =F\circ R\circ q}$ durch die Anwendung von MAX-MIN-Komposition der Fuzzy-Relationen.^[6]

Literatur

• Joon Ho Lee: Properties of extended Boolean models in information retrieval. In: W. B. Croft, C. J. van Rijsbergen: SIGIR 1994. 1994, S. 182–190.
• Sadaaki Miyamoto: Two approaches for information retrieval through fuzzy associations. In: IEEE Transactions on Systems, Man, and Cybernetics. Band 19, Nr. 1, 1989, S. 123–130.
• Sadaaki Miyamoto: Fuzzy Sets in Information Retrieval and Cluster Analysis. Kluwer, Dordrecht 1990, ISBN 0-7923-0721-6.
• Sadaaki Miyamoto: Information Retrieval. In: Enrique H. Ruspini, Piero P. Bonissone, Witold Pedrycz (Hrsg.): Handbook of fuzzy computation. Institute of Physics Publ., Bristol 1998, S. F.4.2.
• C. P. Paice: Soft evaluation of boolean search queries in information retrieval systems. In: Information Technology: Research and Development. Band 3, Nr. 1, 1984, S. 33–42.
• Jiří Panyr: Die Theorie der Fuzzy-Mengen und Information-Retrieval-Systeme. In: Nachrichten für Dokumentation. Band 37, 1986, S. 163–168.
• G. Salton, E. A. Fox, H. Wu: Extended boolean information retrieval. In: Communication of the ACM. Band 26, Nr. 11, 1983, S. 1022–1036.
• W. G. Waller, D. H. Kraft: A mathematical Model for weighted Boolean retrieval systems. In: Information Processing and Management. Band 15, 1979, S. 235–245.

Quellen

1. ↑ Salton u. a., 1983.
2. ↑ Reisinger, 1974.
3. ↑ Tahani, 1976.
4. ↑ Redecki, 1976.
5. ↑ Miyamoto, 1990b, S. 30.
6. ↑ Miyamoto, 1990b, S. 195.