Быстрая сортировка

Материал из DRKB


QuickSort массива Double[править | править код]

{ **** UBPFD *********** by kladovka.net.ru ****
>> Сортировка различными методами

Сортировка одномерного массива значений типа Double методами:
3) Быстрая сортировка (QuickSort);

Зависимости: Math
Автор:       iZEN, izen@mail.ru
Copyright:   адаптация для Delphi
Дата:        14 сентября 2004 г.
********************************************** }

{ Сортировка QuickSort }
procedure QuickSort(var data: array of Double);

  procedure QSort(var b: array of Double; iLo, iHi: Integer);
  var
    Lo, Hi: Integer;
    Mid, t: Double;
  begin
    Lo := iLo;
    Hi := iHi;
    Mid := b[(Lo + Hi) div 2];
    repeat
      while b[Lo] < Mid do Inc(Lo);
      while b[Hi] > Mid do Dec(Hi);
      if Lo <= Hi then
      begin
        t := b[Lo];
        b[Lo] := b[Hi];
        b[Hi] := t;
        Inc(Lo);
        Dec(Hi);
      end;
    until Lo > Hi;
    if Hi > iLo then QSort(b, iLo, Hi);
    if Lo < iHi then QSort(b, Lo, iHi);
  end;

begin
  QSort(data, Low(data), High(data));
end;


Author: iZEN
ID: 04166



Алгоритим быстрой сортировки массива[править | править код]

{ **** UBPFD *********** by delphibase.endimus.com ****
>> Алгоритим быстрой сортировки массива

Функция, показывающая пример реализации алгоритма быстрой сортировки
целочисленного массива. Легко может быть переработан для массивов
другого типа или объектов типа TList, TStringList и т. д.

Используемые параметры
IntArray - указатель на первый элемент массива. ВАЖНО! Индекс первого элемента
массива обязательно должен быть нулевым.

Low - минимальный индекс элемента массива
High - максимальный индекс элемента массива

Зависимости: нет

Copyright:   http://www.rsdn.ru/article/?alg/bintree/sort.xml
Дата:        21 мая 2002 г.
***************************************************** }

type
  PIntArray = ^TIntArray;
  TIntArray = array[0..0] of Integer;

procedure QuickSort(IntArray: PIntArray; Low, High: Integer);

  procedure Swap(Index1, Index2: Integer);
  var
    N: Integer;
  begin
    N := IntArray[Index1];
    IntArray[Index1] := IntArray[Index2];
    IntArray[Index2] := N;
  end;

var
  Mid: Integer;
  Item: Integer;
  ScanUp, ScanDown: Integer;
begin
  // Здесь реализована сортировка по убыванию
  // Для реализации по возрастанию замените операции
  // сравнения на приведённые в комментариях
  if High - Low <= 0 then
    Exit;
  if High - Low = 1 then
  begin
    if IntArray[High] {<} > IntArray[Low] then
      Swap(Low, High);
    Exit;
  end;
  Mid := (High + Low) shr 1;
  Item := IntArray[Mid];
  Swap(Mid, Low);
  ScanUp := Low + 1;
  ScanDown := High;
  repeat
    while (ScanUp <= ScanDown) and (IntArray[ScanUp] {<=} >= Item) do
      Inc(ScanUp);
    while (IntArray[ScanDown] {>} < Item) do
      Dec(ScanDown);
    if (ScanUp < ScanDown) then
      Swap(ScanUp, ScanDown);
  until (ScanUp >= ScanDown);
  IntArray[Low] := IntArray[ScanDown];
  IntArray[ScanDown] := Item;
  if (Low < ScanDown - 1) then
    QuickSort(IntArray, Low, ScanDown - 1);
  if (ScanDown + 1 < High) then
    QuickSort(IntArray, ScanDown + 1, High);
end;


// Пример использования:

procedure TForm1.Button1Click(Sender: TObject);
var
  A: array[0..10] of Integer;
  i: Integer;
begin
  Randomize;
  for i := 0 to 10 do
    A[i] := Random(1000);
  QuickSort(@A, 0, 10);
  for i := 0 to 10 do
    Memo1.Lines.Add(IntToStr(A[i]));
end;


Author: Dimka Maslov
Source: http://delphibase.endimus.com
ID: 04167



Статья про алгоритм быстрой сортировки[править | править код]

Цель: изучение алгоритма быстрой сортировки и ее модификаций.

На этом занятии мы изучим алгоритм быстрой сортировки, который, пожалуй, используется более часто, чем любой другой. Основа алгоритма была разработана в 1960 году (C.A.R.Hoare) и с тех пор внимательно изучалась многими людьми. Быстрая сортировка особенно популярна ввиду легкости ее реализации; это довольно хороший алгоритм общего назначения, который хорошо работает во многих ситуациях, и использует при этом меньше ресурсов, чем другие алгоритмы.

Основные достоинства этого алгоритма состоят в том, что он точечный (использует лишь небольшой дополнительный стек), в среднем требует только около N log N операций для того, чтобы отсортировать N элементов, и имеет экстремально короткий внутренний цикл. Недостатки алгоритма состоят в том, что он рекурсивен (реализация очень затруднена когда рекурсия недоступна), в худшем случае он требует N2 операций, кроме того он очень "хрупок": небольшая ошибка в реализации, которая легко может пройти незамеченной, может привести к тому, что алгоритм будет работать очень плохо на некоторых файлах.

Производительность быстрой сортировки хорошо изучена. Алгоритм подвергался математическому анализу, поэтому существуют точные математические формулы касающиеся вопросов его производительности. Результаты анализа были неоднократно проверены эмпирическим путем, и алгоритм был отработан до такого состояния, что стал наиболее предпочтительным для широкого спектра задач сортировки. Все это делает алгоритм стоящим более детального изучения наиболее эффективных путей его реализации. Похожие способы реализации подходят также и для других алгоритмов, но в алгоритме быстрой сортировки мы можем использовать их с уверенностью, поскольку его производительность хорошо изучена.

Улучшить алгоритм быстрой сортировки является большим искушением: более быстрый алгоритм сортировки - это своеобразная "мышеловка" для программистов. Почти с того момента, как Hoare впервые опубликовал свой алгоритм, в литературе стали появляться "улучшенные" версии этого алгоритма. Было опробовано и проанализировано множество идей, но все равно очень просто обмануться, поскольку алгоритм настолько хорошо сбалансирован, что результатом улучшения в одной его части может стать более сильное ухудшение в друг ой его части. Мы изучим в некоторых деталях три модификации этого алгоритма, которые дают ему существенное улучшение.

Хорошо же отлаженная версия быстрой сортировки скорее всего будет работать гораздо быстрее, чем любой другой алгоритм. Однако стоит еще раз напомнить, что алгоритм очень хрупок и любое его изменение может привести к нежелательным и неожиданным эффектам для некоторых входных данных.

Суть алгоритма: число операций перемены местоположений элементов внутри массива значительно сократится, если менять местами далеко стоящие друг от друга элементы. Для этого выбирается для сравнения один элемент х, отыскивается слева первый элемент, который не меньше х, а справа первый элемент, который не больше х. Найденные элементы меняются местами. После первого же прохода все элементы, которые меньше х, будут стоять слева от х, а все элементы, которые больше х, - справа от х. С двумя половинами массива поступают точно также. Продолжая деление этих половин до тех пор пока не останется в них по 1 элементу.


program QuickSort;

uses crt;

const
  N = 10;

type
  TMas = array [1..n] of Integer;

var
  a: TMas;
  k: Integer;

function Part(l, r: Integer): Integer;
var
  v, i, j, b: Integer;
begin
  V := a[r];
  I := l-1;
  j := r;
  repeat
    repeat
      Dec(j)
    until (a[j] <= v) or (j = i+1);
    repeat
      Inc(i)
    until (a[i] >= v) or (i = j-1);
    b := a[i];
    a[i] := a[j];
    a[j] := b;
  until i >= j;
  a[j] := a[i];
  a[i] := a[r];
  a[r] := b;
  part := i;
end;

procedure QuickSort(l, t: Integer);
var
  i: Integer;
begin
  if l < t then
  begin
    i := part(l, t);
    QuickSort(l, i-1);
    QuickSort(i+1, t);
  end;
end;

begin
  ClrScr;
  Randomize;
  for k := 1 to 10 do
  begin
    a[k] := Random(100);
    Write(a[k]:3);
  end;
  QuickSort(1, n);
  WriteLn;
  for k := 1 to n do
    Write(a[k]:3);
  ReadLn;
end.


Пример:

60,79, 82, 58, 39, 9,  54, 92, 44, 32
60,79, 82, 58, 39, 9,  54, 92, 44, 32
9, 79, 82, 58, 39, 60, 54, 92, 44, 32
9, 79, 82, 58, 39, 60, 54, 92, 44, 32
9, 32, 82, 58, 39, 60, 54, 92, 44, 79
9, 32, 44, 58, 39, 60, 54, 92, 82, 79
9, 32, 44, 58, 39, 54, 60, 92, 82, 79
9, 32, 44, 58, 39, 92, 60, 54, 82, 79
9, 32, 44, 58, 39, 54, 60, 79, 82, 92
9, 32, 44, 58, 54, 39, 60, 79, 82, 92
9, 32, 44, 58, 60, 39, 54, 79, 82, 92
9, 32, 44, 58, 54, 39, 60, 79, 82, 92
9, 32, 44, 58, 54, 39, 60, 79, 82, 92
9, 32, 44, 58, 54, 39, 60, 79, 82, 92
9, 32, 39, 58, 54, 44, 60, 79, 82, 92
9, 32, 39, 58, 54, 44, 60, 79, 82, 92
9, 32, 39, 44, 54, 58, 60, 79, 82, 92
9, 32, 39, 44, 58, 54, 60, 79, 82, 92
9, 32, 39, 44, 54, 58, 60, 79, 82, 92
9, 32, 39, 44, 54, 58, 60, 79, 92, 82
9, 32, 39, 44, 54, 58, 60, 79, 82, 92

"Внутренний цикл" быстрой сортировки состоит только из увеличения указателя и сравнения элементов массива с фиксированным числом. Это как раз и делает быструю сортировку быстрой. Сложно придумать более простой внутренний цикл. Положительные эффекты сторожевых ключей также оказывают здесь свое влияние, поскольку добавление еще одной проверки к внутреннему циклу оказало бы отрицательное влияние на производительность алгоритма.

Самая сомнительная черта вышеприведенной программы состоит в том, что она очень мало эффективна на простых подфайлах. Например, если файл уже сортирован, то разделы будут вырожденными, и программа просто вызовет сама себя N раз, каждый раз с меньшим на один элемент подфайлом. Это означает, что не только производительность программы упадет примерно до N2/2, но и пространство необходимое для ее работы будет около N (смотри ниже), что неприемлемо. К счастью, есть довольно простые способы сделать так, чтобы такой "худший" случай не произошел при практическом использовании программы.

Когда в файле присутствуют одинаковые ключи, то возникает еще два сомнительных вопроса. Первое, должны ли оба указателя останавливаться на ключах равных делящему элементу или останавливать только один из них, а второй будет проходить их все, или оба указателя должны проходить над ними. На самом деле, этот вопрос детально изучался, и результаты показали, что самое лучшее - это останавливать оба указателя. Это позволяет удерживать более или менее сбалансированные разделы в присутствии многих одинаковых ключей. На самом деле, эта программа может быть слегка улучшена терминированием сканирования j<i, и использованием после этого quicksort(l, j) для первого рекурсивного вызова.


Характеристики Производительности Быстрой Сортировки[править | править код]

Самое лучшее, что могло бы произойти для алгоритма - это если бы каждый из подфайлов делился бы на два равных по величине подфайла. В результате количество сравнений делаемых быстрой сортировкой было бы равно значению рекурсивного выражения

CN = 2CN/2+N - наилучший случай.

(2CN/2 покрывает расходы по сортировке двух полученных подфайлов; N - это стоимость обработки каждого элемента, используя один или другой указатель.) Нам известно также, что примерное значение этого выражения равно CN = N lg N.

Хотя мы встречаемся с подобной ситуацией не так часто, но в среднем время работы программы будет соответствовать этой формуле. Если принять во внимание вероятные позиции каждого раздела, то это сделает вычисления более сложными, но конечный результат буде т аналогичным.

Свойство 1 Быстрая сортировка в среднем использует 2N ln N сравнений.

Методы улучшения быстрой сортировки.[править | править код]

Небольшие Подфайлы[править | править код]

Первое улучшение в алгоритме быстрой сортировки возникает из наблюдения, что программа гарантировано вызывает себя для огромного количества небольших подфайлов, поэтому следует использовать самый лучший метод сортировки когда мы встречаем небольшой подфайл. Очевидный способ добиться этого, это изменить проверку в начале рекурсивной функции из if r > l then на вызов сортировки вставкой (соответственно измененной для восприятия границ сортируемого подфайла): if r-l <= M then Insertion(l, r). Значение для M не обязано быть "самым-самым" лучшим: алгоритм работает примерно одинаково для M от 5 до 25. Время работы программы при этом снижается примерно на 20% для большинства программ.

При небольших подфайлах (5- 25 элементов) быстрая сортировка очень много раз вызывает сама себя (в наше примере для 10 элементов она вызвала сама себя 15 раз), поэтому следует применять не быструю сортировку, а сортировку вставкой.


procedure QuickSort (l, t: Integer);
var
  i: Integer;
begin
  if t-l > m then
  begin
    i := part(l, t);
    QuickSort(l, i-1);
    QuickSort(i+1, t);
  end
  else
    Insert(l, t);
end;


Деление по Медиане из Трех[править | править код]

Второе улучшение в алгоритме быстрой сортировки состоит в попытке использования лучшего делящего элемента. У нас есть несколько возможностей. Наиболее безопасная из них будет попытка избежать худшего случая посредством выбора произвольного элемента массив а в качестве делящего элемента. Тогда вероятность худшего случая становится пренебрежимо мала. Это простой пример "вероятностного" алгоритма, который почти всегда работает вне зависимости от входных данных. Произвольность может быть хорошим инструментом при разработке алгоритмов, особенно если возможны подозрительные входные данные.

Более полезное улучшение состоит в том, чтобы взять из файла три элемента, и затем использовать среднее из них в качестве делящего элемента. Если элементы взяты из начала, середины, и конца файла, то можно избежать использования сторожевых элементов: сортируем взятые три элемента, затем обмениваем центральный элемент с a[r-1], и затем используем алгоритм деления на массиве a[l+1..r-2]. Это улучшение называется делением по медиане из трех.

Метод деления по медиане из трех полезен по трем причинам. Во-первых, он делает вероятность худшего случая гораздо более низкой. Чтобы этот алгоритм использовал время пропорциональной N2, два из трех взятых элементов должны быть либо самыми меньшими, либо самыми большими, и это должно повторяться из раздела в раздел. Во-вторых, этот метод уничтожает необходимость в сторожевых элементах, поскольку эту роль играет один из трех взятых нами перед делением элементов. В третьих, он на самом деле снижает время работы алгоритма приблизительно на 5%.


procedure Exchange(i, j: Integer);
var
  k: Integer;
begin
  k := a[i];
  a[i] := a[j];
  a[j] := k;
end;

procedure Mediana;
var
  i: Integer;
begin
  i := n div 4; {Рис.}
  if a[i] > a[i*2] then
  begin
    if a[i] > a[i*3] then
      Exchange(i, n)
    else
      Exchange(i*3, n);
  end
  else
  if a[i*2] > a[i*3] then
    Exchange(i*2, n);
  QuickSort(1, n);
end;


Нерекурсивная реализация[править | править код]

Можно переписать данный алгоритм без использования рекурсии используя стек, но здесь мы это не будем делать.

Комбинация нерекурсивной реализации деления по медиане из трех с отсечением на небольшие файлы может улучшить время работы алгоритма от 25% до 30%.

Итак, на сегодняшнем занятии мы рассмотрели алгоритм быстрой сортировки.


Слияние[править | править код]

На сегодняшнем занятии мы начнем рассмотрении темы внешняя сортировка.

Внешняя сортировка сортирует файлы, которые не помещаются целиком в оперативную память.

Внешняя сортировка сильно отличается от внутренней. Дело в том, что доступ к файлу является последовательным, а не параллельным как это было в массиве. И поэтому считывать файл можно только блоками и этот блок отсортировать в памяти и снова записать в файл.

Принципиальную возможность эффективно отсортировать файл, работая с его частями и не выходя за пределы части обеспечивает алгоритм слияния.

Под слиянием понимается объединение двух (или более) упорядоченных последовательностей в одну упорядоченную последовательность при помощи циклического выбора элементов, доступных в данный момент.

Слияние - намного более простая операция, чем сортировка.

Мы рассмотрим 2 алгоритма слияния:

  • Прямое слияние. Алгоритм Боуза - Нельсона Естественное (Неймановское) слияние.
  • Прямое слияние. Алгоритм Боуза - Нельсона Последовательность а разбивается на две половины b и с.

Последовательности b и с сливаются при помощи объединения отдельных элементов в упорядоченные пары.

Полученной последовательности присваивается имя а, после чего повторяются шаги 1 и 2; при этом упорядоченные пары сливаются в упорядоченные четверки.

Предыдущие шаги повторяются, при этом четверки сливаются в восьмерки и т.д., пока не будет упорядочена вся последовательность, т.к. длины последовательностей каждый раз удваиваются.

Пример

Исходная последовательность

А = 44 55 12 42 94 18 06 67

1

b = 44 55 12 42
с = 94 18 06 67
а = 44 94' 18 55' 06 12' 42 67

2

b = 44 94' 18 55'
с = 06 12' 42 67
а = 06 12 44 94' 18 42 55 67'

3

b = 06 12 44 94'
с = 18 42 55 67'
а = 06 12 18 42 44 55 67 94

Операция, которая однократно обрабатывает всё множество данных, называется фазой.

Наименьший подпроцесс, который, повторяясь, образует процесс сортировки, называется проходом или этапом.

В нашем примере сортировка производится за три прохода. Каждый проход состоит из фазы разбиения и фазы слияния.

Главным минусом сортировки слиянием является удвоение размера памяти, первоначально занятой сортируемыми данными. Рассмотрим алгоритм с рекурсивным актом слияния, предложенный Боузом и Нельсоном и не требующий резерва памяти.

Он основан на очевидной идее: слить две равные упорядоченные части можно слиянием их начальных половин, слиянием конечных и слиянием 2-й половины 1-го результата с 1-й половиной 2-го результата, например:

Если части не равны или не делятся точно пополам, процедуру уточняют надлежащим образом. Аналогично слияние "половинок" можно свести к слиянию "четвертушек", "восьмушек" и т. д.; имеет место рекурсия.

const
  n = 200;

type
  TIpkl = Word;
  TIp = record
    kl: TPpkl;
    z: array[1..50] of Real;
  end;

var
  A: array[1..n] of TIp;
  j: Word;

procedure Bose(var AA; voz: Boolean);
var
  m, j: Word;
  x: TIp; { TIp - тип сортируемых записей }
  A: array [1..65520 div SizeOf(TIp)] of TIp absolute AA;

  { r - расстояние между началами сливаемых частей,
    m - их размер, j - наименьший номер записи}
  procedure Sli(j, r, m: Word);
  begin
    if j+r <= n then
    begin
      if m = 1 then
      begin
        if voz xor (A[j].kl < A[j+r].kl) then
        begin
          x := A[j];
          A[j] := A[j+r];
          A[j+r] := x;
        end;
      end
      else
      begin
        m := m div 2;
      end;
      Sli(j, r, m); { Слияние "начал" }
      if j+r+m <= n then
        Sli(j+m, r, m); { Слияние "концов" }
      Sli(j+m, r-m, m) End {Слияние в центральной части}
    end;
  end;

begin
  m := 1;
  repeat
    j := 1; { Цикл слияния списков равного размера: }
    while j+m <= n do
    begin
      Sli(j, m, m);
      j := j + m + m;
    end;
    m := m + m; { Удвоение размера списка перед началом нового прохода }
  until m >= n; { Конец цикла, реализующего все дерево слияний }
end;

begin
  Randomize;
  for j := 1 to n do
  begin
    A[j].kl := Random(65535);
    Write(A[j].kl:8);
  end;
  ReadLn;
  Bose(A, True);
  for j := 1 to n do
    Write(A[j].kl:8);
  ReadLn;
end.


Author: www.structur.h1.ru
Source: http://delphiworld.narod.ru/
ID: 04168