Несколько дней назад пользователи московского интернет-провайдера QWERTY (ЦЕНТЕЛа) столкнулись с проблемой недоступности подавляющего большиства сайтов, расположенных на территории Украины.
Сайты не просто не открывались, но и даже не определялись на уровне DNS, отображаясь лишь в виде ошибки "не удается разрешить системное имя узла".
В редких случаях имя сайта разрешалось, однако маршрутизация обрывалась на пограничных машрутизаторах провайдера:
1 ms 1 ms 1 ms 213.85.211.169
1 ms 1 ms 1 ms 213.85.208.165
2 ms 2 ms 2 ms 213.85.208.254
* * * Превышен интервал ожидания для запроса.
* * * Превышен интервал ожидания для запроса.
* * * Превышен интервал ожидания для запроса.
Смена DNS-серверов провайдера на альтернативные не улучшала ситуацию:
имена всех запрашиваемых сайтов разрешались, однако маршрутизация обрывалась, причем обрывалась несколько дальше, на уровне магистрального провайдера RETN:
1 ms 1 ms 1 ms 213.85.208.165
3 ms 3 ms 3 ms 213.85.208.254
3 ms 3 ms 3 ms msk-ix.retn.net [193.232.244.187]
24 ms 24 ms 23 ms ae1-4.RT.NTL.KIV.UA.retn.net [87.245.233.26]
* * * Превышен интервал ожидания для запроса.
* * * Превышен интервал ожидания для запроса.
В случае же прямого стыка с каналами DATAGROUP в рамках MSK-IX маршрутизация снова обрывалась на пограничных маршутизаторах QWERTY:
2 ms 2 ms 2 ms 213.85.208.254
* * * Превышен интервал ожидания для запроса.
Проанализировав ситуацию, мы определили, что проблема локализуется на уровне взаимодействия с AS21219, принадлежащей украинской компании JSC “DATAGROUP”, которая, в принципе, является одним из крупнейших игроков местного рынка интернет-услуг, включая такой крупный сегмент, как дата-центы, т.е. услуг colocation и хостинга.
Все AS и располагающиеся в них ресурсы, для которых AS21219 является аплинком, включая ресурсы, располагающиеся непосредственно в рамках AS DATAGROUP, полностью недоступны со стороны QWERTY, причем начиная уже с уровня DNS, ибо часть хостов вообще не резолвится.
Таким образом, пользователи QWERTY лишились доступа к таким крупнейшим украинским ресурсам как bigmir.net, информационному порталу korrespondent.net, а также самому сайту datagroup.ua и бесчиссленному множеству других сайтов, измеряющемуся несколькими десятками тысяч, располагающихся на Украине.
Проще говоря, 70% всех ресурсов, располагающихся в украинских дата-центрах, оказались наглухо отрезанными от пользователей QWERTY.
Естественно, отсутствовал доступ и к нашим серверным стойкам, содержащим порядка 4000 сайтов и порталов, в одном из украинских дата-центров.
Выход на каналы DATAGROUP (AS21219) со стороны Москвы возможен напрямую через MSK-IX (я уже отмечал выше, что DATAGROUP присутствует на MSK-IX, используя собственные каналы связи, и участвует в свободном обмене трафика в рамках данной точки IX), или же через каналы магистрального провайдера RETN, который имеет пиринговый стык с каналами DATAGROUP в Киеве.
Я посмотрел доступность упомянутых выше ресурсов и AS через магистральные каналы RETN — все ресурсы, прямо или косвенно относящиеся к AS21219, оказались доступными и функционировали вполне корректно, аналогичная картина наблюдалась и со стороны другого провайдера, использующего в качестве своих аплинков каналы RETN, — все ресурсы также были доступны:
ae1-4.RT.NTL.KIV.UA.retn.net (87.245.233.26) 48 ms 22 ms 22 ms
GW-DataGroup.retn.net (87.245.247.42) 23 ms 22 ms 21 ms
mailer.datagroup.ua (80.91.160.13) [AS 21219] 22 ms 22 ms 22 ms
или
ae11-5.RT.NTL.KIV.UA.retn.net (87.245.233.85) 20 ms 14 ms 14 ms
GW-DataGroup.retn.net (87.245.247.42) 21 ms 22 ms 21 ms
datagroup.ua (93.183.198.34) [AS 21219] 21 ms 21 ms 21 ms
medula.sputnikmedia.net (77.222.141.131) [AS 21219] 30 ms 22 ms 22 ms
* * *
bigmir.net (193.239.68.70) 24 ms 22 ms 24 ms
Со стороны других столичных провайдеров, использующих аналогичные маршрутам QWERTY схемы прохождения трафика (собственная AS -> MSK-IX -> AS DATAGROUP или собственная AS -> MSK-IX -> AS RETN -> AS DATAGROUP) также проблем не наблюдается:
juni-xe-0-0-3-m9.setel.ru (80.253.16.22) 2 ms 2 ms 2 ms
msk-ix.datagroup.ua (193.232.244.28) 30 ms 28 ms 27 ms
datagroup.ua (93.183.198.34) 28 ms 29 ms 29 ms
medula.sputnikmedia.net (77.222.141.131) 29 ms 29 ms 29 ms
www.bigmir.net (193.239.68.40) 29 ms 30 ms 30 ms
и в другом случае
juni-xe-0-0-3-m9.setel.ru (80.253.16.22) 1 ms 1 ms 1 ms
msk-ix.retn.net (193.232.244.187) 2 ms 2 ms 2 ms
ae1-4.RT.NTL.KIV.UA.retn.net (87.245.233.26) 24 ms 24 ms 24 ms
GW-DataGroup.retn.net (87.245.247.42) 29 ms 23 ms 23 ms
tr1-v77.ua-kiev.datagroup.ua (80.91.163.52) 23 ms 44 ms 24 ms
77.222.142.202 (77.222.142.202) 24 ms 24 ms 24 ms
Исходя из полученной информации и ее анализа, стало ясно, что проблема присутствует либо на стороне QWERTY, либо на стороне DATAGROUP.
Хотя еще изначально мне казалось маловероятным, что DATAGROUP, сохранив доступ для всех других российских провайдеров, сознательно ограничил доступ к своей AS исключительно для клиентов QWERTY (ЦЕНТЕЛа).
Получив несколько жалоб о недоступности ресурсов от наших клиентов — юридических лиц, использующих услуги QWERTY для доступа в Интернет, мы первоналально обратились в компанию “Центральный Телеграф” (владелец торговой марки QWERTY) за разъяснениями. Инженеры и системные администраторы ЦЕНТЕЛа не смогли не только прояснить ситуацию, но даже не смогли понять сути проблемы, искренне удивившись ее наличию.
Старший инженер смены QWERTY в телефонном разговоре задал вопрос, который сразу же довольно четко проиллюстрировал его профессиональный уровень (вопроизводится дословно):
“AS… Автономная система… В смысле? Мы данными вопросами не занимаемся, обращайтесь к администраторам тех сайтов, которые не доступны. Наверно, это сам сайт не работает…. там технические неполадки! Обратитесь к ним. А зачем Вам украинские сайты нужны?”
После этого наш старший инженер предпочел не продолжать разговор, в чем я его всецело поддерживаю, — в данной ситуации говорить просто не о чем: уровень профессиональной квалификации и общего развития, что называется, “на лицо”, да и, видимо, специалистам QWERTY глубоко наплевать на качество предоставляемых услуг и работоспособность собственных сетей.
Далее мы обратились в DATAGROUP и попросили проверить доступность ресрусов, расположенных в сети QWERTY. Специалисты откликнулись быстро и уже через полчаса предоставили развернутые даннные, подтверждающие, что все ресурсы сети QWERTY доступны со стороны клиентских подключений DATAGROUP. Информацию о каких-либо ограничениях доступа со стороны DATAGROUP для AS8615 (QWERTY) нам также не подтвердили.
Таким образом, проблема существует, судя по информации от пользователей, уже значительно больше недели, и локализуется на стороне QWERTY, однако в течение этого времени ее даже и не пытались решать. И остается неизвестным, сколько еще будут (и будут ли вообще) решать.
В итоге эта проблема обошлась недешево: пришлось спешно переносить порядка 1000 сайтов на другие площадки и компенсировать простои ресурсов коммерческой направленности.
Поскольку помимо режиссерской работы я имею достаточно большой опыт создания международных проектов в интернет-сфере, то искренне не понимаю отношение руководства компании “Центральный Телеграф” (QWERTY) к ведению собственного бизнеса, ибо подобное отношение — это не бизнес, это его призрачное подобие, детская забава, хобби, развлечение, но никак не ответственная и профессиональная работа на результат, которая как раз и познается в мелочах.
После данного инцидента буду воздерживаться от рекомендаций своим клиентам, в первую очередь юридическим лицам, пользоваться услугами данного провайдера, ибо при таких подходах вашему бизнесу может быть нанесен значительный урон. Причем я говорю не только о финансовом уровне, но и о потере бизнес-реноме.
