Когда ваше приложение начинает застревать в пробке, попробуйте это решение со светофором.

Был ли у вас когда-нибудь такой опыт? Утром я открыл часто используемое сервисное приложение. После долгого пролистывания страницы выскочило сообщение об ошибке. Или какая-то функция вдруг тормозит и приходится ждать несколько секунд, чтобы ее нажать. Такое ощущение, что едешь в пробке. Дорога явно перед вами, но пройти по ней никак не получится.

В большинстве случаев проблема не в вашей сети или телефоне, а в сервере. Представьте себе супермаркет, в котором всего одна касса, и в час пик очередь может дойти до двери. То же самое касается вашей службы приложений. Если все запросы зажать на один и тот же сервер, он конечно "устанет".

Как открыть для сервера несколько «касс» и грамотно распределить клиентов?

Это не проблема очередей, это искусство отвлечения внимания

Традиционный подход — накапливать оборудование. Сервер медленный? Поменять на более дорогой. Недостаточно? Добавьте еще один. Это немного похоже на постоянное расширение полос движения для решения проблем с пробками. Стоимость возрастает, но эффект может быть не идеальным. Поскольку транспортный поток колеблется, спрос совершенно разный днем ​​и поздно ночью.

Действительно разумный способ — создать «интеллектуальный диспетчерский центр». Этот центр не занимается конкретным бизнесом, он делает только одно: смотрит на входящий запрос, а затем быстро принимает решение отправить его на наиболее подходящий сервер. Этот центр является балансировщиком нагрузки.

Как это работает? Представьте себе швейцара в парке развлечений. Туристы вливаются из ворот, и гид быстро дает рекомендации, исходя из статуса каждого предмета в очереди, возраста и интересов туристов: «На карусели теперь меньше людей, идите направо!» «Американским горкам придется подождать двадцать минут, почему бы вам сначала не взглянуть на парад?» Балансировщик нагрузки является таким проводником, но он направляет запросы данных.

Почему этот диспетчерский центр должен быть «микросервисным»?

Раньше балансировщики нагрузки часто представляли собой независимые аппаратные устройства или программные модули, закрепленные на сервере. Это порождает две проблемы: во-первых, оно само по себе может стать узким местом, а во-вторых, его очень сложно приспособить.

Итак, кто-то подумал: как насчет разделения этой функции планирования на независимый и гибкий небольшой сервис? Позвольте ему свободно масштабироваться в облачной среде, запускайте еще несколько экземпляров при необходимости и автоматически сжимайтесь при простое. Это основная идея микросервисов балансировки нагрузки.

Каковы преимущества этого?

Больше гибкости. Увеличился ли трафик во время акции? Автоматически разверните еще несколько экземпляров балансировки нагрузки, чтобы разделить нагрузку по планированию. Трафик обычно стабильный? Просто сохраните базовый размер. Затраты соответствуют фактическому спросу, и вам больше не придется платить за простаивающее оборудование в часы пик.

Последствия неудачи невелики. Если что-то пойдет не так с одним экземпляром планирования, другие могут немедленно взять на себя управление. Службу будет нелегко прервать, а ощущение прерывистости опыта будет значительно уменьшено.

Обновление стало проще. Хотите запланировать или добавить поддержку нового протокола? Только этот микросервис нужно обновлять самостоятельно, не затрагивая общую архитектуру. Это всё равно, что просто обновить систему наведения в парке развлечений, не перестраивая всё заново.

На что следует обратить внимание при построении такой системы в облаке?

Выбирая облачную платформу, нужно посмотреть, действительно ли она понимает суть «микросервисов». Некоторые платформы просто упаковывают старые вещи под новые имена, а нижний слой по-прежнему остается жестким. Хорошая платформа предоставит возможности детального контроля, позволяющие настраивать каждый параметр стратегии балансировки нагрузки — например, вы сможете не только устанавливать количество направляющих, но и настраивать логику их разгрузки и даже автоматически переключать правила на основе данных в реальном времени.

Еще один ключевой момент — визуализация. Лучше всего «увидеть» процесс планирования. Какие серверы сейчас находятся под давлением? Из какого региона в основном идет трафик? Какова тенденция изменения времени ответа? Четкие графики и оповещения позволяют выявлять проблемы на зачаточном этапе, а не ждать, пока пользователи начнут жаловаться.

Есть еще один момент, который часто упускают из виду: безопасность. Этот диспетчерский центр является единственным путем для всего транспорта. Он обладает достаточными возможностями для выявления вредоносных запросов и защиты внутренних бизнес-серверов при их атаках. Это требует от него гибкости в планировании и бдительности, как от межсетевого экрана.

Пусть технологии спокойно служат, а не создают новые проблемы

Конечная цель всех технологий — сделать услуги настолько гладкими, чтобы люди забыли о самой технологии. Пользователь нажимает кнопку, и результат отображается мгновенно. Его не волнует, сколько серверов прошло за ним или насколько тщательное планирование. Он будет только думать: это приложение простое в использовании, плавное и надежное.

Достижение этой «прозрачной плавности» является ценностью микросервисов балансировки нагрузки. Это уже не сложное устройство, требующее тщательного обслуживания, а становится свободно дышащим и органичным компонентом облачной среды. Он автоматически регулирует ритм в соответствии с интенсивностью дорожного движения и интеллектуально обходит дорогу при возникновении условий, гарантируя, что запросы данных всегда находят самый быстрый и плавный путь.

Итак, в следующий раз, когда вы будете проектировать архитектуру сервиса и почувствуете, что трафик подобен непредсказуемому приливу, подумайте об интеллектуальном диспетчерском центре. Возможно, он не заставит прилив исчезнуть, но он может построить более умные каналы, чтобы каждая капля воды могла плавно течь туда, куда она должна идти. В конце концов, то, что пользователи чувствуют на кончиках своих пальцев, — это просто легкость и непосредственность — и это молчаливое направление всех технологических усилий.

Основанная в 2005 году,мощностьбыла посвящена профессиональному производителю компактных приводов со штаб-квартирой в Дунгуане, провинция Гуандун, Китай. Используя инновации в технологии модульных приводов,мощностьобъединяет высокопроизводительные двигатели, прецизионные редукторы и многопротокольные системы управления, обеспечивая эффективные и индивидуальные решения для интеллектуальных систем привода.мощностьпредоставила профессиональные решения в области приводных систем более чем 500 корпоративным клиентам по всему миру, предлагая продукты, охватывающие различные области, такие как системы «умный дом», автоматическая электроника, робототехника, точное земледелие, дроны и промышленная автоматизация.