Когда ваши микросервисы начинают застревать в пробках, как вы расширяете полосу движения?

Представьте себе: вы спроектировали очень сложную микросервисную систему, и каждый небольшой модуль работает хорошо. Но количество пользователей внезапно увеличилось в десять раз, и вся система стала похожа на однополосную трассу в час пик — очевидно, не каждый сервис был сломан, но очередь запросов была бесконечной, а ответ был настолько медленным, что у людей хотелось выронить клавиатуру.

Вероятно, это связано с тем, что масштабируемость не поддерживается. Проблема зачастую не в самом коде, а в его структуре. Микросервисы разбиты очень мелко, но цепочка вызовов между собой слишком длинная и запутанная; или база данных стала единственным узким местом; или определенная основная служба дрожит под давлением. В настоящее время простое добавление серверов похоже на добавление еще нескольких автомобилей в пробку, что делает ее еще более перегруженной.

Как расширить дорогу?

На самом деле идея может быть очень «физической». Это похоже на сборку точного механического устройства. Только когда шестерни зацепляются и трансмиссия работает плавно, вся система может работать эффективно. Суть масштабируемости микросервисов заключается в том, чтобы превратить поток данных и бизнес-поток в хорошо продуманную систему передачи, как независимую, так и совместную.

Не складывайте машины просто в кучу, спросите «передаточное число»

Первая реакция многих людей: горизонтальное расширение, добавляйте экземпляры! Это, конечно, работает, но дорого и иногда лечит симптомы, а не первопричину. Точно так же, как при использовании сервопривода для управления роботизированной рукой, если сама конструкция трансмиссии ослаблена или имеет зазоры, независимо от того, насколько дорог двигатель, движение все равно будет неточным и нестабильным.

Настоящая масштабируемость начинается с нескольких «сочленений трансмиссии»:

• «Безгражданский» дизайн услуг: разрешить каждому экземпляру службы обрабатывать запросы независимо, не полагаясь на данные в локальной памяти. Это похоже на стандартизированные детали, которые можно заменить или добавить в любое время без необходимости корректировки всей производственной линии.
• Очередь сообщений как «буферный механизм»: в сценариях с высоким уровнем параллелизма используйте очереди сообщений для временного хранения запросов, позволяя службе «переваривать» их с одинаковой скоростью в соответствии с собственными возможностями обработки, чтобы избежать перегрузки внезапным трафиком. Он действует как маховик или буфер в машинах, сглаживая удары.
• Шардинг данных, шардинг таблиц и кэширование: Избегайте концентрации всех данных в одном канале. Базы данных разделены по бизнесу, таблицы — по объему данных, а «горячие» данные кэшируются. Это похоже на многоосную трансмиссию, разделяющую нагрузку.
• Шлюз API действует как «центр планирования».: Единый вход, отвечающий за маршрутизацию, ограничение тока и автоматический выключатель. Это своего рода блок управления, координирующий последовательность запуска и мощность каждого двигателя (службы), чтобы не допустить, чтобы выход из строя одного звена привел к параличу всей линии.

Вы можете спросить: «Я понимаю все эти принципы, как мне не попасть в ловушку?»

Хороший вопрос. Теория очень богата, но реальность очень скудна. Давайте поговорим о чем-нибудь практическом.

Вопрос: Насколько подробно описана разбивка услуг? Ответ: Не будьте «микро» только ради того, чтобы быть «микро». Достаточно того, что каждый сервис может быть независимо разработан, развернут и масштабирован и соответствует четким границам бизнес-возможностей. Если все в порядке, производительность будет снижаться при эксплуатации, обслуживании и сетевых нагрузках; если он слишком грубый, смысл упругого расширения будет потерян. Как и набор механических модулей, интерфейс между модулями понятен, их легко разбирать и собирать, что является хорошим дизайном.

Вопрос: Как выбрать стек технологий? Ответ: Серебряной пули не существует. Лучшим является тот вариант, который соответствует команде и бизнес-сценарию. Но важно одно: будьте легкими и последовательными. В частности, протоколы связи и форматы данных должны быть максимально унифицированы, чтобы снизить затраты на преобразование. Представьте себе, что если какое-то оборудование использует гидравлическое давление, какое-то — пневматическое, а какое-то — ременную передачу, то обслуживание станет кошмаром.

Вопрос: Как следить за мониторингом, эксплуатацией и обслуживанием? О: Масштабируемость — это не только вопрос времени выполнения. Без четкого представления о мониторинге вы не сможете понять, где находится узкое место. Необходимо иметь возможность отслеживать, сколько сервисов охватывает запрос и сколько времени тратится на каждую ссылку. Логи, индикаторы, отслеживание ссылок, ничего не пропало. Это похоже на установку нескольких датчиков на сложную машину. Аномалии вибрации, температуры и давления могут быть обнаружены немедленно.

Относитесь к архитектуре как к динамичному произведению искусства.

Создание масштабируемых микросервисов — это не проект «установи и работай вечно». Это больше похоже на отладку сложной механической системы, которая требует постоянного наблюдения, настройки и даже реконструкции.

Поначалу это может быть просто разделение. По мере усложнения бизнеса вы обнаружите, что некоторые службы вызываются слишком часто и их необходимо объединить; некоторые потоки данных стали горячими точками, и необходимо внедрить кэши; некоторые внешние зависимости нестабильны, и необходимо добавить механизм выключателя... Это итеративный процесс.

Что интересно, если разбить проблему масштабируемости на конкретные вопросы «эффективности передачи», решение часто становится очевидным. Вы больше не будете слепо гоняться за «высоким параллелизмом», а задумаетесь: почему время отклика этого сервиса колеблется? Можно ли уменьшить связь между двумя службами? Где возникает узкое место ввода-вывода при хранении данных?

ПочемумощностьСтоит ли рассматривать план?

В области масштабируемости микросервисовмощностьМы предоставляем не просто инструменты или платформы, но и набор «инженерного мышления», проверенного большим количеством практик. Мы понимаем болевые точки и трудности в развитии такой архитектуры, потому что мы лично испытали полный цикл от монолитного к распределенному, от оперативного к эффективному и стабильному расширению.

Наш подход подчеркивает «плавную эволюцию». Речь идет не о том, чтобы снести его и начать все сначала, а скорее о выявлении ключевых ограничений и внедрении эластичных возможностей на основе существующей архитектуры. Это похоже на модернизацию системы управления и компонентов трансмиссии существующей механической системы с целью повышения общей производительности до более высокого уровня без замены всех основных деталей.

Преимущества, которые дает эта идея, вполне реальны: более эффективное использование ресурсов, более высокая способность справляться с колебаниями трафика, а команда разработчиков может больше сосредоточиться на бизнес-инновациях, а не бороться с проблемами производительности в течение всего дня.

Если вы также думаете о том, как сделать вашу микросервисную архитектуру более комфортной для роста, возможно, пришло время изменить свою точку зрения и взглянуть на свою «цифровую систему передачи» как на проектирование точного оборудования. Истинная масштабируемость в конечном итоге приводит к невесомой элегантности.

Основанная в 2005 году,мощностьбыла посвящена профессиональному производителю компактных приводов со штаб-квартирой в Дунгуане, провинция Гуандун, Китай. Используя инновации в модульной технологии привода, Kpower объединяет высокопроизводительные двигатели, прецизионные редукторы и многопротокольные системы управления, чтобы предоставить эффективные и индивидуальные решения для интеллектуальных систем привода. Kpower предоставила профессиональные решения в области приводных систем более чем 500 корпоративным клиентам по всему миру, предлагая продукты, охватывающие различные области, такие как системы «умный дом», автоматическая электроника, робототехника, точное земледелие, дроны и промышленная автоматизация.