Практическое применение раскраски графов

Эту статью следует викифицировать. Пожалуйста, оформите её согласно правилам оформления статей.

Раскраска графов практически применяется (постановку задачи различиных раскрасок здесь обсуждаться не будет) для:

Составление расписаний

• расписания для образовательных учреждений (обзор — ^[1]);
• расписания в спорте (обзор — ^[2]);
• планирование встреч, собраний, интервью;
• расписания транспорта, в том числе — авиатранспорта^[3];
• расписания для коммунальных служб^[4];
• и прочие.

Вероятно, любому конкретному виду раскраски найдется применение в составлении расписаний.

Распределение регистров в микропроцессорах

См. также: Распределение регистров

Заметную роль в быстродействии программ на компьютере играет время обращения микропроцессора к данным. А именно, процессор может обращаться (перечислим устройства в порядке убывания быстродействия и увеличения объёма) к:

• регистрам процессора,
• кэшу,
• оперативной пямяти,
• прочим устройствам.

Далее, рассмотрим оптимизации программ, связанные с распределением данных в этих устройствах.

Стандартный подход Хайтина

Первыми^[5] важными работами, заложившими основы применения метода раскраски графов в распределении регистров, были ^[6], ^[7] — последующие же не добавили ничего революционного, внимание в них было сконцентрировано на ускорении работы алгоритма, уменьшении памяти, новых эвристиках по определению стоимости откачки регистров (введём определение далее) и выбору регистров для откачки; обзор этих методов можно найти в ^[8].

Далее, рассмотрим способ, предложенный в ^[7].

Распределение регистров (англ. register allocation) микропроцессора обычно производится на этапе компиляции.

На вход процедуры распределения подаётся некий внутренний код (англ. IL, intermediate language, internal language), который рассчитан на виртуальную машину с неограниченным числом регистров — будем называть их виртуальными регистрами.

На выходе процедуры обращения к виртуальнам регистрам переводятся либо в обращения к реальным регистрам процессора, либо, если первого нельзя сделать по причине того, что все регистры уже заняты, — в обращения к оперативной памяти путём введения дополнительного кода. Этот код называют кодом откачки (англ. spill code), а сам процесс — откачкой (spilling). Отметим, что при обращении к оперативной памяти так же иногда используются реальные регистры (для тех команд процессора, которые в качестве аргумента не могут принимать адрес в памяти).

Для примера, количество регистров общего назначения в большей части процессоров Intel, соответствующих архитектуре:

• IA-32 — 8 шт.,
• Intel 64^{[www 1]} — 16 шт.

(Однако, даже не все из них могут быть использованы в нашей процедуре распределения регистров, поскольку уже могут быть заняты — но это уже тонкие вопросы реализации.) Оперативная память же можеть хранить очень большое число «откачанных» «регистров» — ограничения на её объём рассматривать не будем.

Перед выполнением самой процедуры распределения, стоит сделать:

• Оптимизацию обращений к виртуальным регистрам.
• Определение того, является ли переменная в данный момент «значимой», для каждого места программы. «Значима» переменная тогда, когда далее в программе происходит чтение записанного в ней в данный момент значения.

Сам алгоритм распределения регистров состоит из следующих шагов:

• Построение графа — назовём его графом несовместимостей (англ. interfernce graph, conflict graph). Вершины данного графа — регистры. Вершины смежны, если соответствующие переменные «значимы» одновременно (по-другому: одна из переменных определена тогда, когда другая уже «значима»).
• «Склейка» переменных (subsumption, variable propagation): если до копирования одной переменной в другую, 2-я ещё не «значима», а 1-я не «значима» после копирования — мы можем опустить ненужную операцию перемещения и стянуть («склеить») соответствующие данным переменным узлы графа.
• И, наконец, самый интересный нам этап: нахождение n-раскраски графа, где n - количество вышеупомянутых реальных переменных. Решением этой задачи раскраски и является оптимальное распределение регистров. Раскрашивать будем так:

1. Для вершин со степенью меньше n — назначим цвет, если можно.
2. Для нераскрашенных вершин (либо их степень не меньше n, либо — цвета закончились) — «откачиваем» переменные; удаляем эти вершины из графа. Соответствнно, у соседних им вершин степень уменьшается — и имеет смысл снова сделать шаг 1. (Не стоит забывать, что при откачке также возможно введение новой переменной — её надо добавить в граф.)

Практика показывает, что алгоритм сходится довольно быстро.

Раскраска графа применяется во многих известных компиляторах, например:

• В GCC версии 4.4 появился новый распределитель регистров^{[www 2]} — англ. integrated register allocator, который применяет т.н. раскраску «Хайтина-Бриггса».
• Раскраска «Хайтина-Бриггса» применяется и в (по крайней мере, его ранних версиях) компиляторе от Intel для архитектуры IA-64.^{[www 1][9]}

Учёт параллелизма на уровне команд

Процессоры, способные одновременно и независимо выполнять несколько команд, находят всё более широкое применение; о них говорят, что те поддерживают параллелизм на уровне команд (англ. Instruction-level parallelism, ILP). Назовём их ILP-процессорами. Класс ILP-процессоров включает в том числе процессоры с очень длинным командным словом - VLIW (Very Large Instruction Word, к числу которых относятся, в частности, многие модели цифровых процессоров обработки сигналов (ЦПОС). Самой известной коммерчески успешной реализацией концепции параллелизма на уровне отдельных инструкций является семейство микропроцессоров Itanium компании Intel. Также стоит отметить архитектуру E2K, разработанную российской компанией МЦСТ.

Для реального использования высокой производительности ILP-процессоров необходимы компиляторы языков высокого уровня, способные генерировать эффективный код; в том числе, важна и оптимизация распределения регистров. Введение ILP требует серьёзной переработки метода Хайтина в части построения графа несовместимости; в ^[5] предложен доработанный вариант.

Распределение исполняемого кода по кэшу

Был предложен также и алгоритм для распределения часто используемых областей кода в кэше^[10] — т. н. англ. cache line coloring.

Граф несовместимости здесь такой: вершины — некие «блоки» кода (можно, например, брать процедуры), рёбра существуют тогда, когда из одного «блока» ввызывается другой. Как видно, мы концентрируемся на т. н. конфликтах первого поколения (first-generation cache conflicts) — между «блоком» и её вызывающим/вызываемым. Но стоит отметить, что задача раскраски решается не алгоритмами общего назначения, а специальным эвристическим, который, к тому же, даёт решение, которое удовлетворяет неким дополнительным условиям.

Достоинство этого метода — в том, что учитываются и размеры кэша, строки кэша, «блоков» кода, и ассоциативность кэша. Метод удачно комбинируется с другими оптимизациями и inline-функциями^[10][11]. Надо отметить, что он может реализовываться оптимизатором — но не оптимизатором компилятора, а оптимизатором компоновщика.

Распределение частот

(англ. Spectrum management, англ. frequency allocation)

Хорошей работой, классифицирующей такие задачи и систематически излагающей их решения, является ^[12].

Термин «распределение частот» объединяет разные типы задач, которые зачастую имеют разные цели и модели. Эти задачи включают в себя:

• Планировку моделей распределения (лицензирования, регулирования) радиочастот, максимизирующих использование всего радиоспектра.
• Учёт того, что надо отвести диапазоны и для мобильной, наземной (англ. point-to-point) и спутниковой связи, радио- и телетрансляций.
• Алгоритмы, динамически распределяющие частоты одной конкретной сети между пользователями. Особо интересна тут сотовая связь, в области которой проделан очень большой объём исследований.

Общее между задачами — это то, что они все производят оптимальное распределение ограниченного набора ресурсов радиоспектра между пользователями, количество коих в современных условиях всё время растёт.

Два основных направления оптимизации тут:

• максимизация пропускной способности каналов при сохранении определённого минимального уровня интерференции (помех);
• минимизация интерференции для достижения фиксированной пропускной способности.

В ходе рассмотрения подходящих моделей, в ^[12] возникают задачи не намного сложнее T-раскраски (англ. T-coloring) мультиграфа, списочной T-раскраски (англ. set T-coloring).

Как пример работы над реальной сотовой сетью, результаты коей были далее применены оператором в своей практической деятельности — ^[13] (Проведено оператором E-Plus ( (англ.) en:E-Plus) — 3-м по величине в Германии (на 2010)).

Распараллеливание численных методов

Обобщённо представим задачу так: объекты — некие вычисления, между которыми надо разделить вычислительные ресурсы (процессоры, компьютеры…), могущие работать параллельно друг другу. Какие-то вычисления могут выполняться в параллели друг другу, какие-то — нет. Соответственно, вершинная раскраска графа несовместимости вычислений и предствавляет собой искомое распределение.

Приведём следующие примеры численных методов, которые таким образом можно распараллелить:

Разложение Холецкого для метода сопряжённых градиентов с предопределением

См. также: en:Conjugate gradient method#The preconditioned conjugate gradient method

^[14] Этот метод является одним из лучших итерационных методов для решения систем линейных алгебраических уравнений (СЛАУ) с большими, разреженными, симметричными, положительно определёнными матрицами.

Метод Гаусса—Зейделя в применении к разреженным матрицам

Тоже итерационный метод решения СЛАУ.

Этот, в свою очередь, хорош, например, для расчёта энергораспределительных электросетей: такие сети могут быть представлены графами, вершины которых — это потребители и источники электроэнергии, а рёбра — линии электропередач; далее, строится СЛАУ, в матрице которой диагональным элементам соответствуют узлы вышеупомянутого графа, а ненулевым недиагональным — рёбра.^[15]

Также, метод может служить т.н. сглаживателем (англ. iterative smoother) для многосеточных методов решения задач методом конечных элементов. (англ. multigrid methods of finite element problems). Оптимизация метода Гаусса—Зейделя, используемого в сглаживании, с помощью т.н. англ. sparse tiling для такого случая его использования рассмотрена в ^[16].

Методы с использованием адаптивно уточняемой сетки

(англ. Adaptive mesh refinement)

^[17] Они, в свою очередь, полезны в решении дифференциальных уравнений в частных производных (ДУЧП). Принцип уточнения здесь такой: в местах, где ожидается наибольшая локальная погрешность — где решение меняется быстрее всего, плотность сетки выбирается большей.

Метод координатной релаксации

(англ. Method of coordinate relaxation)

^[18] Удачно применяется в нахождении экстремальных собственных значений очень больших разреженных симметричных матриц. Иногда таких больших, что их практичнее генерировать на лету, чем хранить в памяти. Такие задачи часто встают в квантовой механике.

Предопределение неполным LU-разложением

(Preconditioning by ILU, Incomplete LU-factorization)

Для решения СЛАУ с использованием подпространств Крылова.^[19]

Вычисление производных

Вычисление матриц производных (якобианов и гессианов) в том случае, когда они разреженные, можно серьёзно ускорить с помощью раскраски графов. Существует проект «Graph Coloring for Computer Derivatives», сайт — ^{[www 3]}. На сайте представлены публикации по теме, а также — программный пакет, в который оформили участники проекта свои достижения. Для введения в предмет можно посмотреть, одну из презентаций, относящихся к проекту, — ^[20].

Для простого случая, когда «уплотнение» производной ограничивается уменьшением количества столбцов, приведём алгоритм:

Вход: функция от вектора — $F$ Выход: производная $F$ — якобиан или гессиан 1. Исследуем структуру разреженности производной $A \in \mathbb{R}^{m \times n }$ (саму производную вычислять не будем). 2. Составим матрицу $S \in \lbrace0; 1\rbrace^{n \times q}$ уменьшения количества столбцов $A$ — англ. seed matrix; составим так, чтобы $q$ стало наименьшим. 3. Вычислим значения уплотнённой $B = A S \in \mathbb{R}^{m \times q}$; вычислять будем не по этой формуле, а иным способом. Тут видно, что уменьшенное раньше $q$ — количество столбцов $B$ 4. И теперь, восстановим значения $A$ по $B$ (можно некими прямыми методами, можно — решением уравнений).

Место раскраски графа здесь — в вычислении $S$. В простых случаях надо вычислять обычную вершинную (англ. distance-1); distance-2 раскраску (которая, в том числе сводится к distance-1 раскраске square graph); в более сложных, требуются небольшие дополнительные ограничения:

• звёздная раскраска (star coloring) — вершинная distance-1, но с дополнительным ограничением: для любого пути из 4-х вершин используется не менее 3-х цветов;
• ациклическая раскраска (acyclic coloring) — вершинная distance-1 + каждый цикл использует не менее 3-х цветов.

В рамках вышеуказанного проекта были проведены вычисления для технических производственных задач:

• процесс хромотографического разделения (из области химии, химической технологии) посредством техники англ. Simulated Moving Bed;
• решение задачи оптимального энергетического потока (optimal power flow) (электроэнергетика).

Цифровые водяные знаки

Технология цифровых водяных знаков (англ. digital watermarking) позволяет вместе с данными (будь то медиафайлы, исполняемые файлы и прочие) передать некое скрытое сообщение («водяной знак», Watermark). Такое скрытое сообщение может быть применено в защите авторских прав для идентификации владельца данных.

Это важно, например, для установления источника их распространения нелегальным образом. Или же для подтверждения прав на данные, например — программное обеспечение систем на кристалле (system-on-chip).

Сообщение можно закодировать в том числе и в графе. Одну из таких техник предложили Qu и Potkonjak (поэтому её иногда называют QP-алгоритмом) в ^[21].

Состоит она вот в чём: допустим, у нас есть граф G, раскраска которого используется в программе — причём, используется так, что допустимо поменять содержимое графа с небольшим увеличением его хроматического числа. Что важно, одним из таких примеров является граф несовместимости распределения регистров процессора, о котором говорилось выше, — а значит, мы сможем закодировать послание в программном продукте с помощью распределения регистров.

Извлечь его можно путём сравнения полученного графа с исходным; существуют и способы удостовериться в том, было ли некое сообщение закодировано в графе без использования исходного — подробнее извлечение описано, например, в ^[22].

Развитие и уточнение мыслей Qu и Potkonjak, попытки улучшения алгоритма происходит в работах ^[23], ^[24], ^[22].

Отметим, что в ^[23], ^[24] есть ссылки на программный пакет SandMark, в котором исполнены алгоритмы такого рода; доступен для скачивания на ^{[www 4]}.

Прочие применения

• Классическая задача о раскраске карт: вершины — страны; рёбра — общие границы. Такой граф, соответствующий карте, планарен, — а значит, по теореме о 4-х красках, всегда χ ≤ 4.
• Расчёт сетей ОКС-7 (некое обобщение телефонных сетей); а именно, раскраска мультиграфа с некоторыми ограничениями нужна при маршрутизации пакетов с учётом равномерной нагрузки^[25]. Вообще, РУДН и в том числе автор ^[25], работавший там, принимал активное участие в расчёте междугородной сети ОКС-7 России^[26] — что означает надёжность источника.
• Кластерный анализ (разделение объектов на т. н. кластеры; в рамках кластера объекты имеют похожие свойства и/или кластеры имеют отчётливые различия)^[27].
• Решение судоку: 9 цифр судоку — 9 цветов. Вершины графа несовместимости — клетки таблицы. Рёбра между $(x, y)$ и $(x', y')$ проводим тогда и только тогда, когда:
  • $x = x'$, или,
  • $y = y'$, или,
  • $\lceil x/3 \rceil = \lceil x'/3 \rceil$ и $\lceil y/3 \rceil = \lceil y'/3 \rceil$.
• Конструирование устройств, где провода, соединённые в одном узле, должны для удобства различения иметь разные цвета.

Литература

1. ↑ Qu, R.; E. K. Burke, B. Mccollum, L. T. G. Merlot, S. Y. Lee (2006). «A Survey of Search Methodologies and Automated Approaches for Examination Timetabling».
2. ↑ Kendall, Graham; Sigrid Knust, Celso C Ribeiro, Sebastián Urrutia (2009). «Scheduling in sports: An annotated bibliography». Comput. Oper. Res. (Elsevier Science Ltd.). DOI:http://dx.doi.org/10.1016/j.cor.2009.05.013. ISSN 0305-0548.
3. ↑ Marx, Daniel (2004). "Graph Coloring Problems and Their Applications in Scheduling". in Proc. John von Neumann PhD Students Conference: 1–2. 
4. ↑ Roberts Fred S. Graph theory and its applications to problems of society. — Society for Industrial Mathematics.
5. ↑ ^{1 2} Боханко, А. С; А. Ю Дроздов, С. В Новиков, С. Л Шлыков (2005). «Распределение регистров методом раскраски графа несовместимости для VLIW-архитектур». High-performance computer systems and microprocessors: Collected papers of the Institute of Microprocessor Computing Systems, Russian Academy of Science 8.
6. ↑ Chaitin, Gregory J.; Marc A. Auslander, Ashok K. Chandra, John Cocke, Martin E. Hopkins, Peter W. Markstein (1981). «Register Allocation Via Coloring». Comput. Lang. 6 (1): 47-57.
7. ↑ ^{1 2} Chaitin, Gregory J. (1982). "Register Allocation & Spilling via Graph Coloring". SIGPLAN Symposium on Compiler Construction: 98-105. DOI:10.1145/800230.806984. 
8. ↑ Muchnick Steven Advanced Compiler Design and Implementation. — San Diego: Morgan Kaufmann. — ISBN 1558603204
9. ↑ Bharadwaj, Jay; William Y Chen, Weihaw Chuang, Gerolf Hoflehner, Kishore Menezes, Kalyan Muthukumar, Jim Pierce (2000). «The Intel IA-64 Compiler Code Generator». IEEE Micro (IEEE Computer Society Press) 20 (5): 44–53. DOI:http://dx.doi.org/10.1109/40.877949. ISSN 0272-1732.
10. ↑ ^{1 2} Hashemi, Amir H; David R Kaeli, Brad Calder (1997). "Efficient procedure mapping using cache line coloring". PLDI '97: Proceedings of the ACM SIGPLAN 1997 conference on Programming language design and implementation: 171–182, New York, NY, USA: ACM. DOI:http://doi.acm.org/10.1145/258915.258931. 
11. ↑ Aydin, Hakan; David Kaeli (2000). «Using cache line coloring to perform aggressive procedure inlining». SIGARCH Comput. Archit. News (ACM) 28 (1): 62–71. DOI:http://doi.acm.org/10.1145/346023.346046. ISSN 0163-5964.
12. ↑ ^{1 2} Murphey, Robert A.; Panos M. Pardalos, Mauricio, Mauricio G.C. Resende (1999). "Frequency Assignment Problems". Handbook of Combinatorial Optimization: 295–377, Kluwer Academic Publishers. 
13. ↑ Borndörfer, Ralf; Andreas Eisenblätter, Martin Grötschel, Alexander Martin (1997). "Frequency assignment in cellular phone networks". In International Symposium on Mathematical Programming: 24–29. 
14. ↑ Jones, Mark T.; Paul E. Plassmann (1994). «Scalable Iterative Solution of Sparse Linear Systems». Parallel Computing 20 (5): 753-773.
15. ↑ Koester, D. P; S. Ranka, G. C Fox (1994). "A parallel Gauss-Seidel algorithm for sparse power system matrices".: 184–193, Washington, D.C., United States: IEEE Computer Society Press. Проверено 30 January 2010. 
16. ↑ Strout, Michelle Mills; Larry Carter, Jeanne Ferrante, Jonathan Freeman, Barbara Kreaseck (2002). "Combining Performance Aspects of Irregular Gauss-Seidel Via Sparse Tiling". LCPC: 90-110. DOI:10.1007/11596110_7. 
17. ↑ Jones, Mark T.; Paul E. Plassmann (1997). «Parallel Algorithms for Adaptive Mesh Refinement». SIAM Journal on Scientific Computing (SIAM) 18 (3): 686-708. DOI:10.1137/S106482759528065X. Проверено 30 January 2010.
18. ↑ Manne, Fredrik (1998). "A parallel algorithm for computing the extremal eigenvalues of very large sparse matrices (Extended Abstract)". proceedings of Para98, Workshop on Applied Parallel Computing in Large scale scientific and Industrial Problems 1541: 332–336, Lecture Notes in Computer Science, Springer. Проверено 30 January 2010. 
19. ↑ Hysom, David; Alex Pothen (2000). «A Scalable Parallel Algorithm for Incomplete Factor Preconditioning». SIAM J. Sci. Comput 22: 2194–2215. DOI:10.1.1.38.7293.
20. ↑ Gebremedhin, A. (10 June 2008). "Graph Coloring in Parallel Processing and Scientic Computing". CSCAPES Workshop 2008. Проверено 23 January 2010. 
21. ↑ Qu, Gang; Miodrag Potkonjak (1998). "Analysis of watermarking techniques for graph coloring problem". ICCAD: 190-193. DOI:10.1145/288548.288607. 
22. ↑ ^{1 2} Zhu, William; Clark Thomborson (2006). "Recognition in software watermarking". MCPS '06: Proceedings of the 4th ACM international workshop on Contents protection and security: 29–36, New York, NY, USA: ACM. DOI:http://doi.acm.org/10.1145/1178766.1178776. 
23. ↑ ^{1 2} Myles, Ginger; Christian S. Collberg (2003). "Software Watermarking Through Register Allocation: Implementation, Analysis, and Attacks". ICISC: 274-293. DOI:10.1007/b96249. 
24. ↑ ^{1 2} Collberg, Christian; Clark Thomborson, Gregg M. Townsend (2004). «Dynamic Graph-Based Software Watermarking».
25. ↑ ^{1 2} Самуйлов К. Е Методы анализа и расчета сетей ОКС 6. — Москва, Издательство Российского университета дружбы народов.
26. ↑ (11 October 2004) «Основные положения системы сигнализации ОКС № 7 для сети связи Российской Федерации» (ЦНТИ "Информсвязь"). Проверено 30 January 2010.
27. ↑ Hansen, Pierre; Brigitte Jaumard (1997). «Cluster analysis and mathematical programming». Math. Program. 79: 191-215.

Ссылки

• ^{[www 5]} - хороший источник ссылок на информацию по многим аспектам применения
• ^{[www 6]}, хоть и на 2010 год уже очень давно не обновляемая.

1. ↑ ^{1 2} Dulong, Carole; Rakesh Krishnaiyer, Dattatraya Kulkarni An Overview of the Intel IA-64 Compiler  (англ.) (1999). doi:10.1.1.14.1435. Архивировано из первоисточника 20 апреля 2012.
2. ↑ GCC 4.4 Release Series: Changes, New Features, and Fixes  (англ.) (2010). Архивировано из первоисточника 20 апреля 2012. Проверено 23 января 2010.
3. ↑ Graph Coloring for Computing Derivatives - Home Page  (англ.). CSCAPES Institute. Архивировано из первоисточника 20 апреля 2012. Проверено 23 января 2010.
4. ↑ Collberg, Christian SandMark: A Tool for the Study of Software Protection Algorithms - homepage  (англ.). Department of Computer Science, The University of Arizona. Архивировано из первоисточника 20 апреля 2012. Проверено 30 января 2010.
5. ↑ Culberson, Joseph Graph Coloring Bibliography  (англ.). Canada: Department of Computing Science, University of Alberta (21 September 2004). Архивировано из первоисточника 20 апреля 2012. Проверено 24 января 2010.
6. ↑ Trick, Michael annotated bibliography for cliques and coloring  (англ.) (1994). Архивировано из первоисточника 20 апреля 2012. Проверено 24 января 2010.