Излишняя сетевая буферизация

Излишняя сетевая буферизация

Излишняя сетевая буферизация (англ. Bufferbloat — распухание буфера) — явление, возникающее в сетях с коммутацией пакетов, когда чрезмерная буферизация вызывает увеличение времени прохождения пакетов (latency) и разброса задержки пакетов (jitter), и в результате уменьшение пропускной способности (throughput). Проект www.bufferbloat.net иронично определил этот термин, как «ухудшение производительности Интернета, вызванное предыдущими попытками его улучшения»[1].

Термин Bufferbloat в конце 2010 предложил Джим Гетиc (Jim Gettys), сотрудник Bell Labs, член комитета W3C и один из редакторов спецификации HTTP/1.1[2].

Содержание

Суть явления

Проблема излишней буферизации возникает, когда на пути от источника до приёмника пакетов присутствует устройство со слишком большим буфером. Как правило, буферы присутствуют практически во всех узлах сети: коммутаторах, маршрутизаторах, стеках операционных систем и тд. Они предназначены для временного хранения «лишних» пакетов, для того чтобы не происходила их потеря, когда приёмник передаёт данные узлу быстрее, чем может получить получатель. Это происходит, когда полоса пропускания у приёмника выше, чем у получателя. Буферизация задерживает передачу пакета на несколько миллисекунд. Если буфер наполняется, то следующий пакет отбрасывается. Протоколы контроля перегрузки обнаруживают это на стороне отправителя и снижают скорость передачи. Данные продолжают передаваться, используя максимально возможную пропускную способность.

Но если буфер в каком-то узле сети слишком большой, то он долгое время продолжает накапливать пакеты. Из-за этой длинной паузы сбиваются алгоритмы контроля перегрузки и функционируют не так как нужно. Начинает происходить такое явление как большая и переменная задержка пакетов, «узкие горловины» сети «задыхаются» от избытка пакетов от одного TCP-потока, а другие пакеты отбрасываются. Происходит затор. Через некоторое время буферы освобождаются, затем скорость передачи наращивается, пока не заполнит буферы опять, до следующего затора.

С точки зрения обычных пользователей основные симптомы излишней сетевой буферизации — это, когда сеть находится под нагрузкой (передаётся много данных), обычные веб-страницы грузятся очень долго (несколько секунд, а то и минут); любые службы, требующие постоянную пропускную способность (неважно, высокую или низкую), такие как VoIP, сетевые игры, чат, интерактивные приложения типа удалённого доступа, становится невозможно использовать. Методы приоритезации (QoS), при которых для определенного вида трафика создается отдельная очередь пакетов, мало помогают решению проблемы.

Проблема излишней буферизации вызвана в основном производителями маршрутизаторов, коммутаторов и разработчиками операционных систем, которые в последние годы стали устанавливать слишком большие буферы (несколько мегабайт) на устройствах, что в свою очередь вызвано резким удешевлением памяти.

Проблему можно решить просто уменьшив размер буферов на сетевом оборудовании. Однако, он не конфигурируется на большинстве маршрутизаторов и свитчей, тем более, если они размещены вне зоны доступа обычных пользователей.

Источники проблемы

Излишнюю сетевую буферизацию может вызывать любая служба или любое действие в сети, передающая большие объёмы данных или большое количество пакетов через сеть. Среди них:

  • Загрузка видео на youtube, файлов на Crash dump и другие сервисы
  • Скачивание фильмов из интернета, просмотр фильмов онлайн
  • Копирование файлов по сети, создание бэкапов
  • Электронные письма с большими приложениями
  • Торрент-клиенты
  • Видео-конференции
  • Веб-серфинг по сайтам с медиа-содержимым: youtube, google maps, и тд.

Где происходит

Явление может происходить везде, где происходит буферизация. В первую очередь затор содаётся на том узле, после которого идёт самая узкая полоса пропускания. Например:

  • Сетевой стек операционной системы
  • Сетевая карта, драйвер сетевой карты
  • Беспроводная точка доступа, домашний свитч, домашний маршрутизатор, домашний модем
  • DSLAM, CMTS и тп.
  • Все маршрутизаторы, мосты, шлюзы на пути от источника до приёмника
  • Устройства спутниковой связи

Последствия

Многие протоколы и сетевые службы страдают от заторов и большого времени отклика. Например:

  • DNS. 100ms задержки убивают запросы DNS от браузеров
  • ARP.
  • DHCP. Машина не может попасть в сеть
  • RA, ND
  • VoIP, 1 пакет каждые 10 мс должен проходить для нормального функционирования. Разброс должен быть не более 30 мс.
  • Сетевые игры.
  • Потоковое видео.
  • Любые другие сетевые приложения.

История

Предыстория

Проблема перегрузки сети — это старая проблема сетей, которая существовала ещё с первых лет их существования. Перегрузка сети вызывает ухудшение пропускной способности, увеличение времени прохождения пакетов, и потери пакетов. В результате перегрузки сети некоторые сетевые службы просто перестают работать.

Первое проявление перегрузки сети в крупном масштабе произошло в 1986 г. в сети NSFNet[3]. В ответ на это событие в 1988 г. был разработан протокол контроля перегрузки сети Ван Якобсона (англ. Van Jacobson's Congestion Control).

Интернет продолжал расти. В 1993 С. Флойд и В. Якобсон разрабатывают алгоритм RED (англ. Random early detection — Произвольное Раннее Обнаружение) для управления переполнением очередей маршрутизаторов[4].

В 1997 выходит RFC 2068, в которой сформулирован «принцип двух соединений»: одному клиенту следует использовать не более двух соединений одновременно с одним и тем же сервером[5]. По словам из этой же RFC, эта рекомендация дана «для уменьшения времени HTTP ответа и избежания чрезмерной загрузки Интернета или других сетей».

Годом позже выходит RFC 2309: «Рекомендации по управлению очередями и избежанию перегрузки в Интернете», в которой были предложены меры по улучшению и сохранению производительности Интернета.

В 2001 году выходит RFC 3168: «Добавление явной нотификации о перегрузке (Explicit Congestion Notification, ECN) в IP», в которой было предложено добавление поля ECN в IP и TCP пакетах, резервируя для этого 2 бита.

В 20042007 один из крупнейших интернет-провайдеров США Comcast испытывает трудности в связи с сетевой перегрузкой. Об этом свидетельствуют неоднократные отключения интернета «тяжёлым» пользователям[6]. А в 2007 Comcast, по словам Джима Геттиса, «задыхается» от битторрентов[7]. Компанию обвиняют в блокировании торрент-траффика[8][9] и даже преследуют судебные иски[10].

Обнаружение проблемы

По утверждению Джима Геттиса, первым, кто обнаружил проблему излишней сетевой буферизации, был Дэйв Кларк[7]. В 2004 г. он наблюдал это явление на своём DSLAMе и использовал его, чтобы отбить у своего сына привычку подолгу играть в WOW[11].

В 2007 г. сам Джим Геттис начинает получать жалобы от своей семьи на плохой интернет и испытывает повреждения оборудования от грозового перенапряжения[7].

В 2009 г. Дэйв Рид заявил о слишком большом времени оборота (RTT) пакетов (до 30 секунд) при малых потерях пакетов в сетях 3G, сделав сообщение в списке рассылки полного цикла. Сам Джим Геттис фиксировал в сетях 3G RTT до 6 секунд.

Геттис продолжает получать жалобы от семьи о медленном интернете. В апреле 2010 он провёл тест «ширина полосы пропускания / время ожидания»[12]. Результат теста показал, что время ожидания (задержка) пакетов возрастает при продолжительной передаче данных. 15 июля 2010 Геттис провёл совместный ланч с представителями Comcast[13], где была предложена причина проблемы: слишком большие буферы. Причина в свою очередь 2 года ранее была предложена компании Дэйвом Кларком, но в компании не смогли найти доказательств этому. Другие причины, сопутствующие распуханию буфера: RED зачастую не включают в сетях, потому что он требует сложной настройки; ECN блокируются в некоторых сетях, потому что они приводят к сбоям домашних роутеров.

Геттис продолжил исследования, делая замеры дома и в командировках. Замер от 20 сентября показал задержку 8 с на пути, который проходится обычно за 10 мс[14]. Далее Геттис вопроизвёл это и на других роутерах разных производителей.

В ноябре Геттис воспроизвёл проблему на разных ОС. Оказалось, что под Linux и Mac эта проблема легче воспроизводится, чем под Windows. Геттис сделал вывод: «чем-то попахивает в сетевых стеках операционных систем»[15].

3 декабря 2010 Джим Геттис публикует в своём блоге статью «The criminal mastermind: bufferbloat!», где он даёт название этому явлению — bufferbloat. В этой и последующих статьях Геттис рассказывает о сути явления, местах возникновения, причинах и последствиях[16].

Реакция

Роберт Крингли, журналист, пишущий для InfoWorld, в своей статье «Предсказания 2011 года: Одно слово — bufferbloat. Или это два словапредсказывает, что излишняя сетевая буферизация будет величайшей проблемой 2011 года[17]. Ссылаясь на Геттиса, он даёт описание проблемы. Через 3 дня ars technica опубликовал статью Ильича ван Бейнума, в которой тот указал, что некоторые детали, описанные Крингли, неверны, но при этом подтвердил наличие проблемы излишней сетевой буферизации[18].

Вскоре был создан проект www.bufferbloat.net, целью которого было скоординировать усилия озабоченных лиц по решению проблемы излишней сетевой буферизации. Основные задачи проекта:

  • Собрать вместе экспертов, чтобы заняться вопросом управления очередями в сетевых стеках
  • Распространить информацию о проблеме конечным пользователям
  • Создать инструменты для демонстрации и диагностики проблемы
  • Произвести эксперименты по улучшенному управлению перегрузками
  • Создать патчи для популярных ОС, драйверов устройств и стеков TCP/IP.

Примечания

  1. Introduction  (англ.). Wiki. www.bufferbloat.net. Архивировано из первоисточника 27 августа 2012. Проверено 2 сентября 2011.
  2. Проект по избавлению Linux-ядра от излишней сетевой буферизации. OpenNET (27 февраля 2011). Архивировано из первоисточника 27 августа 2012. Проверено 5 сентября 2011.
  3. Internet History :: NSFNET  (англ.). www.cybertelecom.org. Архивировано из первоисточника 27 августа 2012. Проверено 6 сентября 2011.
  4. Floyd, Sally; Jacobson, Van Random Early Detection (RED) gateways for Congestion Avoidance (August 1993). doi:10.1109/90.251892. Архивировано из первоисточника 15 апреля 2012. Проверено 26 января 2010.
  5. "Connections. Persistent Connections. Practical Considerations". стр. 45. секция 8.1.4. RFC 2068. RFC2068 на русском языке
  6. Joseph S. Enoch Comcast Cuts Off Heavy Internet Users  (англ.). ConsumerAffairs.com (24 August 2007). Архивировано из первоисточника 27 августа 2012. Проверено 7 сентября 2011.
  7. 1 2 3 Gettys (Febrary 21), с 13.
  8. Declan McCullagh Comcast really does block BitTorrent traffic after all  (англ.). CNet (19 October 2007). Архивировано из первоисточника 27 августа 2012. Проверено 7 сентября 2011.
  9. Brad Stone. Comcast: Were Delaying, Not Blocking, BitTorrent Traffic  (англ.), The New York Times (22 October 2007). Проверено 7 сентября 2011.
  10. Ryan Singel Comcast Sued Over BitTorrent Blocking  (англ.). Wired (14 November 2007). Архивировано из первоисточника 27 августа 2012. Проверено 7 сентября 2011.
  11. Jim Gettys Whose house is of glasse, must not throw stones at another  (англ.). lwn.net (7 December 2010). Архивировано из первоисточника 27 августа 2012. Проверено 6 сентября 2011.
  12. Gettys (Febrary 21), с 14.
  13. Gettys (Febrary 21), с 18.
  14. Gettys (Febrary 21), с 41-43.
  15. Jim Gettys Home Router Puzzle Piece One — Fun with your switch (November 29, 2010)
  16. Jim Gettys The criminal mastermind: bufferbloat!  (англ.). WordPress (2010--12-03). Архивировано из первоисточника 27 августа 2012. Проверено 7 сентября 2011.
  17. Robert X. Cringely 2011 predictions: One wordbufferbloat. Or is that two words?  (англ.). www.cringely.com (4 January 2011). Архивировано из первоисточника 27 августа 2012. Проверено 8 сентября 2011.
  18. Iljitsch van Beijnum Understanding bufferbloat and the network buffer arms race  (англ.). arstechnica.com (7 January 2011). Архивировано из первоисточника 27 августа 2012. Проверено 8 сентября 2011.

Литература

Ссылки

  • www.bufferbloat.net  (англ.) (Сайт совместного проекта по решению проблемы излишней сетевой буферизации)
  • jgs ramblings  (англ.) (Блог Дж. Гетиса, где он впервые описал проблему излишней сетевой буферизации)

Wikimedia Foundation. 2010.

Игры ⚽ Нужен реферат?

Полезное



Поделиться ссылкой на выделенное

Прямая ссылка:
https://dic.academic.ru/dic.nsf/ruwiki/1423654 Нажмите правой клавишей мыши и выберите «Копировать ссылку»