Suffix-Array-Induced-Sorting

Beispiel für das Sortieren der Suffix Arrays für den Text immissiissippi$

Suffix-Array-Induced-Sorting (kurz SAIS) stellt ein Verfahren in der Informatik dar, mit dem Suffixarrays für beliebige Texte in linearer Zeit konstruiert werden können. Die Idee besteht darin, durch Rekursion festgelegte Suffixe vorzusortieren um dann durch mehrere Durchläufe des Textes die verbleibenden Suffixe einordnen zu können. Dadurch sortiert dieses Verfahren Suffixe besonders effizient.

## Verfahren des Algorithmus

[Bearbeiten | Quelltext bearbeiten]

Im Folgenden wird der Algorithmus für einen Text  T {\displaystyle T} angewendet, der ein Suffixarray  A {\displaystyle A} konstruiert. Mit  T i {\displaystyle T^{i}} wird das Suffix von  T {\displaystyle T} ab Index  i {\displaystyle i} angegeben.[1]

1. Klassifiziere alle Suffixe im Text mit  S {\displaystyle S} (smaller) oder  L {\displaystyle L} (larger), in dem der Text von rechts nach links durchlaufen wird. Ein Zeichen beziehungsweise Suffix wird hierbei als  S {\displaystyle S} klassifiziert, wenn das nachfolgende Suffix lexikographisch größer ist, sonst als  L {\displaystyle L} .
2. Kennzeichne ein Suffix vom Typ  S {\displaystyle S} mit  S ∗ {\displaystyle S^{*}} , wenn dessen Vorgänger lexikographisch größer ist
3. Teile  A {\displaystyle A} in Buckets auf. Buckets stellen hier Intervalle in  A {\displaystyle A} dar, in denen alle Suffixe mit dem gleichen jeweiligen Zeichen beginnen.
4. Teile die Buckets in  S {\displaystyle S} \- und  L {\displaystyle L} -Buckets auf. Innerhalb eines oberen Buckets stehen die  L {\displaystyle L} -Buckets vor den  S {\displaystyle S} -Buckets.
5. Sortiere die  S ∗ {\displaystyle S^{*}} -Suffixe lexikographisch und schreibe sie in ihre jeweiligen  S {\displaystyle S} -Buckets.
6. Scanne  A {\displaystyle A} von links nach rechts. Falls an Stelle  i {\displaystyle i} ein Suffix vorhanden ist und  T A [ i ] − 1 {\displaystyle T^{A[i]-1}} vom Typ  L {\displaystyle L} ist, dann schreibe  A [ i ] − 1 {\displaystyle A[i]-1} an die nächste freie Stelle im Typ- L {\displaystyle L} -Bucket für den Buchstaben  T [ A [ i ] − 1 ] {\displaystyle T[A[i]-1]} .
7. Scanne von rechts nach links. Falls an Stelle  i {\displaystyle i} ein Suffix vorhanden ist und  T A [ i ] − 1 {\displaystyle T^{A[i]-1}} vom Typ  S {\displaystyle S} ist, dann schreibe  A [ i ] − 1 {\displaystyle A[i]-1} an die nächste freie Stelle im Typ- S {\displaystyle S} -Bucket für den Buchstaben  T [ A [ i ] − 1 ] {\displaystyle T[A[i]-1]} von rechts nach links.

Schritt 5 kann hierbei noch konkretisiert werden:

1. Sortiere die  S ∗ {\displaystyle S^{*}} -Substrings und ordne diesen dann Superzeichen zu. Erzeuge daraus Text  T ′ {\displaystyle T'} .
2. Berechne Suffixarray  A ′ {\displaystyle A'} für  T ′ {\displaystyle T'} rekursiv.
3. Aus  A ′ {\displaystyle A'} folgt dann die Sortierung der  S ∗ {\displaystyle S^{*}} -Suffixe  → {\displaystyle \rightarrow } Rücktransformation der Indizes von  T ′ {\displaystyle T'} nach  T {\displaystyle T} .

## Beispiel

[Bearbeiten | Quelltext bearbeiten]

Als Beispieltext wird hier  T = immissiissippi $ {\displaystyle T={\text{immissiissippi}}\$} genommen, das Dollarzeichen am Ende symbolisiert das Ende der Zeichenkette. Die zugehörige Klassifizierung ergibt folgende Zuweisungen:

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*

Nach erfolgter Klassifizierung findet nun die Einteilung in Buckets statt. Hierbei ist zu beachten, dass die Buckets lexikographisch geordnet sind und deren Größe von der Anzahl der jeweils vorkommenden Zeichen abhängt.

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*
Buckets  | $  | i  | m  | p  | s

Es ist zu erkennen, dass der Bucket für das Dollarzeichen ziemlich klein ist, weil dieses Zeichen nur einmal im Text vorkommt. Der Bucket für das Zeichen  i {\displaystyle i} hingegen ist vergleichsweise groß, weil es sechsmal in  T {\displaystyle T} auftritt.

Es erfolgt eine weitere Unterteilung in  S {\displaystyle S} \- und  L {\displaystyle L} -Buckets, wobei die  L {\displaystyle L} -Buckets vor den  S {\displaystyle S} -Buckets stehen.

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*
Buckets  | $  | i  | m  | p  | s
Bucket-Typ  | S  | L  | S  | L  | L  | L

Nun erfolgt die Einordnung der  S ∗ {\displaystyle S^{*}} -Suffixe in die jeweiligen Buckets. Für jedes Zeichen werden zuerst alle  S ∗ {\displaystyle S^{*}} -Suffixe lexikographisch sortiert und anschließend in das  S {\displaystyle S} -Bucket geschrieben. Dies erfolgt durch einen Unterschritt, indem man aus den gegebenen  S ∗ {\displaystyle S^{*}} -Substrings  T ′ {\displaystyle T'} konstruiert. Zur Vereinfachung werden die Substrings mit Superzeichen versehen.  T ′ {\displaystyle T'} ist dann von der Form

T ′ = [ D , B , C , A ] {\displaystyle T'=[D,B,C,A]} , wobei  A = 15 {\displaystyle A=15} ,  B = 7 {\displaystyle B=7} ,  C = 11 {\displaystyle C=11} und  D = 4 {\displaystyle D=4} . Die Superzeichen  A {\displaystyle A} bis  D {\displaystyle D} stehen hier für die jeweiligen  S ∗ {\displaystyle S^{*}} -Suffixe.

Um  A ′ {\displaystyle A'} generieren zu können, werden den Superzeichen Indizes zugewiesen. Anschließend wird lexikographisch sortiert.

Index | 1 | 2 | 3 | 4

|
|
|
|

T' | D | B | C | A
Stelle in T | 4 | 7 | 11 | 15

A ′ {\displaystyle A'} ist dann von der Form

A ′ = [ 4 , 2 , 3 , 1 ] {\displaystyle A'=[4,2,3,1]} , wobei  4 = A {\displaystyle 4=A} ,  2 = B C A {\displaystyle 2=BCA} ,  3 = C A {\displaystyle 3=CA} und  1 = D B C A {\displaystyle 1=DBCA} .

Mit diesem Schritt ist bereits ein Teil des kompletten Suffixarrays  A {\displaystyle A} vorsortiert, dieser kann nun in die Buckets eingefügt werden:

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*
Buckets  | $  | i  | m  | p  | s
Bucket-Typ  | S  | L  | S  | L  | L  | L
| 15  |  | 7  | 11  | 4  |  |  |  |

Jetzt erfolgt ein Durchlauf der Buckets von links nach rechts, wird hierbei ein Suffix einer entsprechenden Stelle gefunden, dessen Vorgänger-Suffix vom Typ  L {\displaystyle L} ist, so wird dieses an die nächst freie Stelle im  L {\displaystyle L} -Bucket des jeweiligen Zeichens geschrieben.

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*
Buckets  | $  | i  | m  | p  | s
Bucket-Typ  | S  | L  | S  | L  | L  | L
| 15  |  | 7  | 11  | 4  |  |  |  |
|  | 14  |  |  |  |

Dieser Vorgang wird so oft wiederholt, bis das Ende von  A {\displaystyle A} erreicht wurde. Nach dem Durchlauf enthält  A {\displaystyle A} folgende Suffixe:

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*
Buckets  | $  | i  | m  | p  | s
Bucket-Typ  | S  | L  | S  | L  | L  | L
| 15  |  | 7  | 11  | 4  |  |  |  |
|  | 14  |  | 3  |  |  | 6  | 10  |
|  |  |  | 2  | 13  |  |  | 5  |
|  |  |  |  | 12  |

Jetzt erfolgt der Durchlauf von rechts nach links:

Index | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15

|
|
|
|
|
|
|
|
|
|
|
|
|
|
|

T | i | m | m | i | s | s | i | i | s | s | i | p | p | i | $
Typ | S | L | L | S* | L | L | S* | S | L | L | S* | L | L | L | S*
Buckets  | $  | i  | m  | p  | s
Bucket-Typ  | S  | L  | S  | L  | L  | L
| 15  |  | 7  | 11  | 4  |  |  |  |
|  | 14  |  | 3  |  |  | 6  | 10  |
|  |  |  | 2  | 13  |  |  | 5  |
|  |  |  |  | 12  |  | 9
|  |  | 8  |  |  |
|  |  | 4  |  |  |  |
|  |  | 11  |  |  |  |
|  |  | 1  |  |  |  |

Zuletzt werden die sortierten Suffixe in  A {\displaystyle A} von links nach rechts zusammengesetzt. Es ergibt sich das sortierte Suffix-Array:

A = [ 15 , 14 , 7 , 1 , 11 , 4 , 8 , 3 , 2 , 13 , 12 , 6 , 10 , 5 , 9 ] {\displaystyle A=[15,14,7,1,11,4,8,3,2,13,12,6,10,5,9]}

## Beispielimplementierung (Pseudocode)

[Bearbeiten | Quelltext bearbeiten]

sais(T,A)
for i = n to 1 do
if (T[i] >lex T[i+1])
typ[i] <- L
if (typ[i+1] = S) typ[i+1] = S*
else
typ[i] <- S

begin <- {}
for j = 1 to n do
if (typ[j] = S*)
if (begin = {})
begin <- j
else
end <- p
T’[q] <- CharacterFor(begin,end)
q <- q + 1
begin <- end

If (everyCharacterInT’IsUnique(T’))
A <- countingSort(T’)
return A
else
A <- sais(T’,A)

for k = 1 to n do
if (A[k] != {})
if (typ[A[k]-1] = L)
A <- writeToLBucketForCharacter(T[A[k]-1])

for l = n to 1 do
if (A[l] != {})
if (typ[A[l]-1] = S)
A <- writeToSBucketForCharacter(T[A[l]-1])

return A

Weitere Implementierungen lassen sich unter[2] finden. Darunter auch Implementierungen in Java sowie C.

## Laufzeit

[Bearbeiten | Quelltext bearbeiten]

Der Suffix-Array-Induced-Sorting-Algorithmus löst das Problem der Suffix-Sortierung in einer Laufzeit von  O ( n ) {\displaystyle O(n)} . Die Beispielimplementierung zeigt dabei drei über den Text iterierende Schleifen von Länge  n {\displaystyle n} . Die beiden angedeuteten Funktionen writeToLBucketForCharacter und writeToSBucketForCharacter springen innerhalb des Arrays  A {\displaystyle A} zu dem  L {\displaystyle L} -Bucket beziehungsweise  S {\displaystyle S} -Bucket für das angegebene Zeichen. Innerhalb des Buckets wird in einer naiven Implementierung maximal n-mal geprüft werden müssen, ob ein freier Platz im Bucket vorhanden ist, um einen freien Platz zu finden.

Interessant ist das Sortieren der  S ∗ {\displaystyle S^{*}} -Suffixe. Hier wird das Problem der Sortierung auf die  S ∗ {\displaystyle S^{*}} -Suffixe beschränkt, indem der SAIS-Algorithmus rekursiv darauf angewendet wird. Der übergebene Text T' ist dabei höchstens  n / 2 {\displaystyle n/2} lang, da per Definition ein  S ∗ {\displaystyle S^{*}} nur an jeder zweiten Stelle im Text vorkommen kann. Dadurch ergibt sich folgende kombinierte Laufzeit:

T ( n ) = O ( n ) + T ( n / 2 ) = O ( n ) {\displaystyle T(n)=O(n)+T(n/2)=O(n)}

Insgesamt wird also eine Laufzeit von  O ( n ) {\displaystyle O(n)} gebraucht.

## Verwendung

[Bearbeiten | Quelltext bearbeiten]

Der Suffix-Array-Induced-Sorting-Algorithmus findet Verwendung bei der Erstellung eines Suffixbaumes in  O ( n ) {\displaystyle O(n)} Zeit. Dabei bildet er nur einen Teilschritt zwischen dem Text und dem entstandenen Suffixbaum.

## Siehe auch

[Bearbeiten | Quelltext bearbeiten]

* Suffixarray

## Literatur

[Bearbeiten | Quelltext bearbeiten]

* Ge Nong, Sen Zhang, Wai Hong Chan: Two Efficient Algorithms for Linear Time Suffix Array Construction. IEEE Trans. Computers 60(10): 1471–1484 (2011)

## Einzelnachweise

[Bearbeiten | Quelltext bearbeiten]

1. ↑ Johannes Fischer: Vorlesungsskriptum "Text-Indexierung und Information Retrieval". Wintersemester 2014/2015. Abgerufen am 20. Januar 2015.
2. ↑ Yuta Mori: Sais Beispielimplementierungen Sais. Archiviert vom Original (nicht mehr online verfügbar) am 26. Juli 2014; abgerufen am 19. Januar 2015.  Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/sites.google.com