распределенное кэширование в микросервисах

Что может сделать распределенное кэширование, когда ваши микросервисы начинают «забывчивы»?

Вы когда-нибудь испытывали это? Утром система работала очень быстро, но днем ​​пользователям приходилось ждать несколько секунд, чтобы нажать кнопку. Данные, очевидно, есть, но каждый вызов — это как запуск запроса с нуля, сервисы ждут друг друга, а вся система работает медленно, как на прогулке. Это происходит не потому, что сервер устал, а потому, что у него нет механизма, позволяющего держать данные «по вызову в любое время» — это проблема, которую хочет решить распределенное кэширование.

Подумайте об этом: если каждому микросервису придется неоднократно запрашивать у базы данных одни и те же данные, база данных быстро станет узким местом. Это похоже на оживленную кофейню. Каждый раз, когда клиент делает заказ, бариста должен перемолоть кофейные зерна и снова кипятить воду, вместо того, чтобы заранее приготовить несколько чашек обычных сортов. Проще говоря, распределенное кэширование заключается в настройке нескольких общих высокоскоростных точек временного хранения в вашей сервисной сети и размещении часто используемых данных ближе к сервису, чтобы к ним можно было получить доступ в любое время.

Кэширование не только «быстрое», но и стабильное.

Когда многие люди слышат «Кэш», их первая реакция — «ускориться». Да, доступ к данным в памяти происходит гораздо быстрее, чем запрос к базе данных, иногда даже в сотни раз быстрее. Но это только половина истории.

Что еще более важно, это помогает вам справляться с пиками трафика. При внезапном возникновении большого количества запросов уровень кэша может принять на себя большую часть нагрузки, и база данных, находящаяся за ним, не будет перегружена. Устойчивость всей системы возросла, и пользователи испытывают плавность и плавность работы вместо внезапных задержек. Это похоже на добавление в систему «умной подушки».

Более того, он незаметно снижает зависимости между сервисами. Некоторые базовые данные, необходимые службе A, не обязательно вызывать каждый раз службой B. Их можно получить непосредственно из общего кэша. Даже если служба B временно находится в неудовлетворительном состоянии, служба A все равно может нормально работать в течение определенного периода времени, и общая отказоустойчивость системы, естественно, будет повышена.

Как должен выглядеть хороший распределенный кеш?

При выборе не ориентируйтесь только на показатели производительности. Вы должны задать себе несколько вопросов: действительно ли легко вписаться в мою существующую архитектуру микросервисов? Легко или трудоемко масштабировать? Когда данные необходимо обновить, может ли это гарантировать согласованные результаты, видимые несколькими службами?

Хорошо спроектированное решение должно выглядеть специально для среды микросервисов. Для его использования не требуется существенного рефакторинга кода, а доступ должен быть беспрепятственным. Горизонтальное расширение также естественно. По мере роста бизнеса добавление узлов приведет к увеличению емкости и пропускной способности. Лучше всего автоматизировать этот процесс, избежав слишком больших затрат на эксплуатацию и обслуживание.

Нельзя игнорировать постоянство и высокую доступность. Если перезапустить кэш-сервер, все данные будут потеряны или их можно частично восстановить? Если один узел в кластере выйдет из строя, смогут ли другие узлы беспрепятственно взять на себя работу? Эти характеристики определяют, насколько он надежен в производственной среде.

Несколько идей, как заставить кеширование действительно «работать»

Внедрение кэширования — это не просто добавление инструмента и его прекращение. Гораздо важнее то, как его использовать.

Что кэшировать? Не все данные стоит кэшировать. Данные, которые меняются очень быстро и отличаются каждый раз, когда вы запрашиваете их, станут громоздкими, если оставить их в покое. Наиболее подходящими данными являются «горячие» данные, которые изменяются реже, но к которым чаще обращаются, например каталоги продуктов, основная информация о пользователях, списки стран и регионов и т. д.

Обратите внимание на стратегию обновления. Общие «проникновение кеша» (запрос несуществующих данных, обход кеша и каждый раз проникновение в базу данных) и «лавина кеша» (одновременный сбой большого количества кешей и все запросы, поступающие в базу данных) должны быть разработаны так, чтобы их избежать. Например, установите кратковременную нулевую отметку для несуществующих ключей или установите время истечения срока действия кэша.

Другая практика — использование многоуровневого кэширования. Настройте чрезвычайно быстрый кеш (например, Ehcache) в локальной памяти службы в сочетании с глобальным распределенным кешем (например, кластером Redis). Локальный кеш обрабатывает сверхвысокочастотные запросы, а распределенный кеш обеспечивает совместное использование и согласованность данных. Сочетание этих двух часто дает лучшие результаты.

сделать шаг вперед

Технологии постоянно развиваются. Сегодня некоторые передовые решения распределенного кэширования начали глубоко интегрироваться с облачными средами, поддерживая контейнерное развертывание и интеллектуальную эксплуатацию и обслуживание на базе Kubernetes. Они также изучают более разумное удаление данных и более детальные индикаторы мониторинга, чтобы вы могли не только использовать их, но и четко видеть их и хорошо ими управлять.

Ведь внедрение распределенного кэширования — это не чисто техническое решение. Речь идет о том, как обеспечить стабильное и быстрое обслуживание своих пользователей и как сохранить архитектуру спокойной, когда ваш бизнес быстро растет. Когда ваши микросервисы больше не будут «заняты» повторяющимися запросами и когда данные смогут незаметно и быстро появляться там, где они должны быть, когда это необходимо, вся система засияет с другой эффективностью и жизнеспособностью. Это может быть рациональная и очаровательная красота в архитектуре.

Основанная в 2005 году,мощностьбыла посвящена профессиональному производителю компактных приводов со штаб-квартирой в Дунгуане, провинция Гуандун, Китай. Используя инновации в технологии модульных приводов,мощностьобъединяет высокопроизводительные двигатели, прецизионные редукторы и многопротокольные системы управления, обеспечивая эффективные и индивидуальные решения для интеллектуальных систем привода.мощностьпредоставила профессиональные решения в области приводных систем более чем 500 корпоративным клиентам по всему миру, предлагая продукты, охватывающие различные области, такие как системы «умный дом», автоматическая электроника, робототехника, точное земледелие, дроны и промышленная автоматизация.