Суффиксное дерево

Материал из Википедии — свободной энциклопедии
Перейти к: навигация, поиск

Суффиксное дерево — бор, содержащий все суффиксы некоторой строки (и только их). Позволяет выяснять, входит ли строка w в исходную строку t, за время O(|w|), где |w| — длина строки w.

Основные определения и описание структуры[править | править исходный текст]

\Sigma — непустое конечное множество символов, называемое алфавитом. Последовательность символов (возможно, пустая) из алфавита обозначается буквами r, s и t. t^{-1} представляет собой перевёрнутую строку. Отдельные символы обозначаются буквами x, y или z. \varepsilon — пустая строка. Символами из алфавита являются буквы a, b, …. Пока размер алфавита принимается постоянным. |t| обозначает длину строки t. \Sigma^m — все строки длины m, \Sigma^*=\bigcup\limits_{i=0}^{\infty}\Sigma^i и \Sigma^+=\Sigma^*\backslash \{\varepsilon\}.

Префикс w строки t — строка такая, что wv = t для некоторой (возможно, пустой) строки v. Префикс называется собственным, если |v| \ne 0.

Суффикс w строки t — строка такая, что vw = t для некоторой (возможно, пустой) строки v. Суффикс называется собственным, если |v| \ne 0. Например, для строки «substring» подстрока «sub» является собственным префиксом, «ring» — собственным суффиксом.

Подстрока w строки t называется правым ветвлением, если t может быть представлена как uwxv и u'wyv' для некоторых строк u, v, u' и v', а также букв x \ne y. Левое ветвление определяется аналогично. Например, для «eabceeabcd» подстрока «abc» является правым ветвлением, так как в обоих её вхождениях в t справа от неё стоят различные символы, зато та же подстрока не является левым ветвлением, потому что слева от неё в обоих вхождениях стоит одинаковый символ «e».

\Sigma^+-дерево T — корневое дерево с рёбрами, помеченными последовательностями из \Sigma^+. Для каждого символа a из алфавита каждый узел в дереве T имеет не более одного ребра, метка которого начинается c символа a. Ребро от t до s с меткой v мы будем обозначать t \longrightarrow_v s.

Пусть k — узел \Sigma^+-дерева T, тогда path(k) — строка, которая представляет собой конкатенацию всех меток рёбер от корня до k. Мы назовем \overline{w} местоположением w, для которого path(\overline{w}) = w.

Так как каждая ветвь уникальна, если path(t) = w, мы можем обозначить узел t за \overline{w}. Поддерево узла \overline{w} обозначается T_{\overline{w}}.

Слова, которые представлены в \Sigma^+-дереве T, задаются множеством, которое обозначается words(T). Слово w входит во множество words(T) тогда и только тогда, когда существует строка v (возможно, пустая) такая, что \overline{wv} — узел дерева T.

Если строка w входит в words(T), w = uv, \overline{u} — узел дерева T, пару (\overline{u}, v) будем называть ссылочной парой w по отношению к дереву T. Если u — наидлиннейший префикс такой, что (\overline{u}, v) — ссылочная пара, мы будем называть (\overline{u}, v) канонической ссылочной парой. Тогда мы будем писать \widehat{w} = (\overline{u},v). Местоположение \widehat{w} = (\overline{u},v) называется явным, если |v| = 0, и неявным в противном случае.

\Sigma^+-дерево T, в котором каждое ребро помечено одиночным символом, называется атомарным (для него каждое местоположение является явным). \Sigma^+-дерево T, в котором каждый узел является либо корнем, либо листом или узлом ветвления, называется компактным.

Атомарное \Sigma^+-дерево также называют trie (луч). Атомарное и компактное \Sigma^+-дерево однозначно определены словами, которые они содержат.

Суффиксное дерево для строки t — это \Sigma^+-дерево такое, что words(T) = {w| w — подслово t}. Для строки t атомарное суффиксное дерево обозначается ast(t), компактное суффиксное дерево обозначается cst(t).

Обратное префиксное дерево строки t — это суффиксное дерево для строки t^{-1}.

Вложенный суффикс — суффикс, который входит в строку t где-нибудь ещё. Наидлиннейший вложенный суффикс называется активным суффиксом строки t.

Свойства суффиксных деревьев[править | править исходный текст]

Лемма. Местоположение w явно в компактном суффиксном дереве тогда и только тогда, когда w является не вложенным суффиксом t или w — правое ветвление.

Доказательство. \Rightarrow. Если \overline{w} явно, то это может быть либо лист, либо вершина ветвления или корень (в этом случае w = \varepsilon и w — вложенный суффикс t).

Если \overline{w} — лист, тогда также является и суффиксом t. Значит, это должен быть не вложенный суффикс, так как иначе он появился бы где-нибудь ещё в строке t: \exists v — суффикс t такой, что w — префикс v. Этот узел не может быть листом.

Если \overline{w} — узел ветвления, тогда должны существовать, по меньшей мере, два выходящих ребра из \overline{w} с различными метками. Это означает, что существуют два различных суффикса u, v, что w — префикс u и w — префикс v, где v = wxs, u = wx's', x \ne x'. Следовательно, w — правое ветвление.

\Leftarrow. Если w является не вложенным суффиксом t, это должен быть лист. Если w — правое ветвление, то имеются два суффикса u и v, u = wxs, v = wx's', x \ne x', тогда w является узлом ветвления. Лемма доказана.

Теперь легко видеть, почему ответ на вопрос, входит ли слово w в строку t, может быть найден за время O(|w|): нужно только проверить, является ли w местоположением (явным или неявным) в cst(t).

Метки рёбер должны представлять собой указатели на положение в строке, чтобы суффиксное дерево расходовало память размером O(n). Метка (p, q) ребра означает подстроку t_p\ldots t_q или пустую строку, если p > q.

Укконен вводит название открытые рёбра для рёбер, заканчивающихся в листьях. Пометки открытых рёбер записывают как (p, \infty) вместо (p, |t|), где \infty — длина, всегда большая, чем |t|.

Пусть T — \Sigma^+-дерево. Пусть \overline{aw} — узел T, v — наидлиннейший суффикс w такой, что \overline{v} — также узел T. Непомеченное ребро от \overline{aw} до \overline{v} называется суффиксным звеном. Если v = w, оно называется атомарным.

Утверждение. В ast(t) и cst(t$), где $ \notin t, все суффиксные звенья являются атомарными.

Доказательство. Символ $ называется символом-стражем. Первая часть (для ast(t)) следует из определения, так как местоположения являются явными. Для доказательства второй (случай cst(t)) части мы должны показать, что для каждого узла \overline{aw} \overline{w} также является узлом cst(t). Если \overline{aw} — узел cst(t), то является либо листом, либо узлом ветвления. Если является листом, тогда aw — не вложенный суффикс t. Благодаря символу-стражу, из леммы следует, что все суффиксы (включая корень, пустой суффикс) являются явными, так как только корень — вложенный суффикс. Поэтому w является листом или корнем. Если \overline{aw} — узел ветвления, тогда aw — правое ветвление, как и w. Следовательно, местоположение \overline{w} явно по лемме. Утверждение доказано.

Как следует из этого доказательства, символ-страж гарантирует существование листьев для всех суффиксов. С таким символом не может быть вложенных суффиксов, кроме пустого. Если мы опустим символ-страж, некоторые суффиксы могут стать вложенными, и их местоположения станут неявными.

Требования суффиксного дерева к памяти[править | править исходный текст]

Утверждение. Компактное суффиксное дерево может быть представлено в виде, требующем O(n) памяти.

Доказательство. Суффиксное дерево содержит не более одного листа на каждый суффикс (в точности один с символом-стражем). Каждый внутренний узел должен быть узлом ветвления, следовательно, внутренний узел имеет по меньшей мере двух потомков. Каждое ветвление увеличивает число листьев по меньшей мере на единицу, поэтому мы имеем не более n внутренних узлов и не более n листьев.

Для представления строк, являющихся метками рёбер, мы используем индексацию в исходной строке, как описано выше. Каждый узел имеет не более одного предка и, таким образом, общее число ребер не превышает 2n.

Аналогично, каждый узел имеет не более одного суффиксного звена, тогда общее число суффиксных звеньев также ограничено числом 2n. Утверждение доказано.

Как пример суффиксного дерева с 2n-1 вершинами можно рассмотреть дерево для слова a^n$. Размер атомарного суффиксного дерева для строки t составляет O(n^2).

Построение дерева за линейное время. Алгоритм mcc. (McCreight’s Algorithm)[править | править исходный текст]

Алгоритм mcc начинает работу с пустого дерева и добавляет суффиксы начиная с самого длинного. Алгоритм mcc не является on-line алгоритмом, то есть для его работы необходима вся строка целиком. Для корректной работы требуется, чтобы строка завершалась специальным символом, отличным от других, так, чтобы ни один суффикс не являлся префиксом другого суффикса. Каждому суффиксу в дереве будет соответствовать лист. Для алгоритма мы определим suf_i — текущий суффикс (на шаге i), head_i (голова) — наибольший префикс суффикса suf_i, который является также префиксом другого суффикса suf_j, где j < i. tail_i (хвост) определим как suf_i-head_i.

Ключевой идеей алгоритма mcc является соотношение между head_i и head_{i-1}.

Лемма. Если head_{i-1} = aw где a — буква алфавита, w — строка (может быть пустая), тогда w — префикс head_i.

Доказательство. Пусть head_{i-1} = aw. Тогда существует j, j < i, такой, что aw является как префиксом suf_{i-1}, так и префиксом suf_{j-1}. Тогда w — префикс suf_i и suf_j, следовательно, w является префиксом головы head_i. Лемма доказана.

Мы знаем местоположение head_{i-1} = aw, и если мы будем иметь суффиксное звено, то можем быстро перейти к местоположению w — префикса головы head_i без необходимости находить путь от корня дерева. Но местоположение \overline{w} могло бы не являться явным (если местоположение \overline{head_{i-1}} не было явным на предыдущем шаге) и суффиксное звено могло бы быть ещё не установлено для узла \overline{head_{i-1}}. Решение, данное МакКреем, находит узел \overline{head_i} за два шага: «повторное сканирование» («rescanning») и «сканирование» («scanning»). Мы проходим дерево наверх от узла \overline{head_{i-1}} пока не найдем суффиксное звено, следуем по нему и затем применяем повторное сканирование пути до местоположения w (которое является простым, потому что мы знаем длину w и это местоположение существует, так что мы не должны читать полные метки ребер, двигаясь вниз по дереву, мы можем просто проверять только начальные буквы и длину слов).

Идея алгоритма mcc

Рисунок демонстрирует эту идею. Вместо попытки найти путь от корня до узла f, алгоритм переходит до a, следует суффиксному звену до d, проводит повторное сканирование пути до (возможно неявного) местоположения e и остается найти путь до f, проходя посимвольно.

Алгоритм состоит из трех частей.

1. Сначала он определяет структуру предыдущей головы, находит следующее доступное суффиксное звено и следует по нему.

2. Затем он повторно сканирует часть предыдущей головы, для которой длина является известной (эта часть названа \beta).

3. Наконец алгоритм устанавливает суффиксное звено для head_{i-1}, сканирует оставшуюся часть head_i (названную \gamma) и добавляет новый лист для tail_i.

Узел ветвления создается во второй фазе повторного сканирования, если не существует местоположения w. В этом случае сканирование не является необходимым, потому что если head_i была бы длиннее чем \alpha\beta, тогда \alpha\beta\gamma являлось бы правым ветвлением, но по лемме \alpha\beta является также правым ветвлением, так узел \overline{\alpha\beta} уже должен существовать. Узел создается в третьей фазе, если местоположение \overline{head_i} ещё не явно.

Алгоритм 1 (mcc, McCreight)
Вход: строка t
 1: T: = пустое дерево;
 2: head0 := \epsilon;
 3: n:= length(t);
 4: for i:= 1 to n do
 5:    найти \chi, \alpha, \beta такие, что
        a. headi-1 = \chi\alpha\beta,
        b. если предок узла headi-1 не корень (root), обозначим его
           \overline{\chi\alpha}, в противном случае |\alpha|=0
        c. |\chi|\le1 и (|\chi| = 0 \Leftrightarrow |headi-1| = 0)
 6:    if (|\alpha| >0) then
 7:       следовать по суффиксному звену от узла \overline{\chi\alpha} до \overline{\alpha};
 8:    end if
 9:    \overline{\alpha\beta} := Rescan(\overline{\alpha},\beta);
10:    установить суффиксное звено от \overline{head_{i-1}} до \overline{\alpha\beta}
11:    (\overline{head_{i}},taili) := Scan(\overline{\alpha\beta},sufi-\alpha\beta);
12:    добавить лист, соответствующий taili;
13: end for

Обратите внимание, что если |\alpha| = 0 тогда \overline{\alpha} = root и узнается одинаково быстро, как следуя суффиксному звену согласно строке 7 алгоритма.

Процедура Rescan ищет местоположение \alpha\beta. Если местоположение \overline{\alpha\beta} ещё не явно, добавляется новый узел. Этот случай имеет место, когда голова (head) просмотрена целиком: если голова длиннее (и узел уже определен), \alpha\beta должно являться префиксом более чем двух суффиксов и также является левым ветвлением t. Местоположение \overline{\alpha\beta} может являться только явным, если этот узел уже является узлом ветвления, и если \alpha\beta не было левым ветвлением тогда head_{i-1}, должно быть, был длиннее, потому что встретился более длинный префикс.

Процедура Scan производит поиск в глубину дерева и возвращает позицию.

Процедура 1 Rescan(n,\beta)
Вход: узел n, строка \beta
 1: i:=1;
 2: while i\le |\beta|do
 3:    найти ребро e=n{\stackrel{w}{\longrightarrow}}n',w1 = \beta1;
 4:    if i+|w|>|\beta|+1 then
 5:       k:=|\beta|-i+1;
 6:       расщепить ребро e с новым узлом m и ребрами n{\stackrel{w_1\ldots w_k}{\longrightarrow}}m и  m{\stackrel{w_{k+1}\ldots w_{|w|}}{\longrightarrow}}n';
 7:       return m;
 8:    end if
 9:    i:=i+|w|;
10:    n:=n';
11: end while
12: return n';
Процедура 2 Scan(n,\gamma)
Вход: узел n, строка \gamma
 1: i:=1;
 2: while существует ребро e=n{\stackrel{w}{\longrightarrow}}n', w1 = \gammai do
 3:    k:=1;
 4:    while wk = \gammai и k\le|w| do
 5:       k:=k+1;
 6:       i:=i+1;
 7:    end while
 8:    if k>|w| then
 9:       n:=n';
10:    else
11:       расщепить ребро e с новым узлом m и ребрами n{\stackrel{w_1\ldots w_{k-1}}{\longrightarrow}}m  и m{\stackrel{w_{k}\ldots w_{|w|}}{\longrightarrow}}n';
12:       return (m,\gammai,...,\gamma_{|\gamma|});
13:    end if
14: end while
15: return (n,\gammai,...,\gamma_{|\gamma|});

Построение дерева за линейное время. Алгоритм ukk. (Ukkonen’s Algorithm)[править | править исходный текст]

Алгоритм, который изобрел Эско Укконен для построения суффиксного дерева за линейное время, вероятно, самый простой из таких алгоритмов. Простота происходит оттого, что алгоритм можно представить сначала как простой, но неэффективный метод, который с помощью нескольких приемов реализации на уровне «здравого смысла» достигает уровня лучших алгоритмов по времени счета в наихудших условиях. В PDF with figures сделано примерно то же самое. Про алгоритм Укконена на английском языке можно прочесть в английской вики.

Подробное объяснение алгоритма и реализация на C++ : cs.mipt.ru(на русском) и marknelson.us(на английском)

Для алгоритма Укконена нам потребуются

1) Неявные суффиксные деревья 
2) Общее описание алгоритма
3) Оптимизация алгоритма

Неявные суффиксные деревья.[править | править исходный текст]

Суффиксное дерево для строки xabxa$
Неявное суффиксное дерево для строки xabxa$

Алгоритм Укконена строит последовательность неявных суффиксных деревьев, последнее из которых преобразуется в настоящее суффиксное дерево строки S.

Неявное суффиксное дерево строки S — это дерево, полученное из суффиксного дерева S$ удалением всех вхождений терминального символа $ из меток дуг дерева, удалением после этого дуг без меток и удалением затем вершин, имеющих меньше двух детей. Неявное суффиксное дерево префикса S[l..i] строки S аналогично получается из суффиксного дерева для S[l..i]$ удалением символов $, дуг и вершин, как описано выше.

Неявное суффиксное дерево для любой строки S будет иметь меньше листьев, чем суффиксное дерево для строки S$, в том и только том случае, если хотя бы один из суффиксов S является префиксом другого суффикса. Терминальный символ $ был добавлен к концу S как раз во избежание этой ситуации. В определении настоящего суффиксного дерева это очень важный момент. Однако если S заканчивается символом, который больше нигде в S не появляется, то неявное суффиксное дерево для S будет иметь лист для каждого суффикса и, следовательно, будет настоящим суффиксным деревом.

Хотя неявное суффиксное дерево может иметь листья не для всех суффиксов, в нём закодированы все суффиксы S — каждый произносится символами какого-либо пути от корня этого неявного суффиксного дерева. Однако если этот путь не кончается листом, то не будет маркера, обозначающего конец пути. Таким образом, неявные суффиксные деревья сами по себе несколько менее информативны, чем настоящие. Мы будем использовать их только как вспомогательное средство в алгоритме Укконена, чтобы получить настоящее суффиксное дерево для S.

Общее описание алгоритма.[править | править исходный текст]

Построить дерево T1 
for i from 1 to m - 1 do begin {фаза i + 1} 
  for j from 1 to i + 1 begin {продолжение j} 
    найти в текущем дереве конец пути из корня с меткой S[j..i]. 
    Если нужно, продолжить путь, добавив символ S(i + 1), 
    обеспечив появление строки S[j..i + 1] в дереве, 
  end; 
end;

Алгоритм Укконена строит неявное суффиксное дерево Ti для каждого префикса S[l..i] строки S, начиная с T1 и увеличивая i на единицу, пока не будет построено Tm. Настоящее суффиксное дерево для S получается из Tm, и вся работа требует времени О(m). Мы объясним алгоритм Укконена, представив сначала метод, с помощью которого все деревья строятся за время O(m³), а затем оптимизируем реализацию этого метода так, что будет достигнута заявленная скорость.

Три правила продолжения суффикса.[править | править исходный текст]

Чтобы превратить это общее описание в алгоритм, мы должны точно указать, как выполнять продолжение суффикса. Пусть S[j..i] = β — суффикс S[1..i]. В продолжении j, когда алгоритм находит конец β в текущем дереве, он продолжает β, чтобы обеспечить присутствие суффикса βS(i + 1) в дереве. Алгоритм действует по одному из следующих трех правил.

Правило 1. В текущем дереве путь β кончается в листе. Это значит, что путь от корня с меткой β доходит до конца некоторой «листовой» дуги (дуги, входящей в лист). При изменении дерева нужно добавить к концу метки этой листовой дуги символ S(i + 1).

Правило 2. Ни один путь из конца строки β не начинается символом S(i + 1), но по крайней мере один начинающийся оттуда путь имеется. В этом случае должна быть создана новая листовая дуга, начинающаяся в конце β, помеченная символом S(i + 1). При этом, если β кончается внутри дуги, должна быть создана новая вершина. Листу в конце новой листовой дуги сопоставляется номер j. Таким образом, в правиле 2 возможно два случая.

Правило 3. Некоторый путь из конца строки β начинается символом S(i + 1). В этом случае строка βS(i + 1) уже имеется в текущем дереве, так что ничего не надо делать (в неявном суффиксном дереве конец суффикса не нужно помечать явно).

См. также[править | править исходный текст]

Литература[править | править исходный текст]

  • Гасфилд Д. Строки, деревья и последовательности в алгоритмах: Информатика и вычислительная биология / Пер. с англ. И. В. Романовского. — 2-е изд. — СПб.: Невский Диалект, 2003. — 654 с.

Ссылки[править | править исходный текст]