caching distribuito nei microservizi

Quando i tuoi microservizi iniziano a essere "smemori", cosa può fare la memorizzazione nella cache distribuita?

Hai mai sperimentato questo? Al mattino il sistema funzionava molto velocemente, ma nel pomeriggio gli utenti dovevano attendere diversi secondi prima di fare clic su un pulsante. I dati ovviamente ci sono, ma ogni chiamata è come iniziare la query da zero, i servizi si aspettano l'un l'altro e l'intero sistema è lento come fare una passeggiata. Questo non perché il server sia stanco, ma perché manca un meccanismo per mantenere i dati "a portata di mano in qualsiasi momento": questo è il problema che il caching distribuito vuole risolvere.

Pensateci, se ogni microservizio dovesse chiedere ripetutamente al database gli stessi dati, il database diventerà rapidamente un collo di bottiglia. È come un bar affollato. Ogni volta che un cliente ordina, il barista deve macinare nuovamente i chicchi di caffè e far bollire nuovamente l'acqua, invece di preparare in anticipo diverse tazze di stili comuni. Il caching distribuito, in poche parole, consiste nell'impostare alcuni punti di archiviazione temporanei condivisi e ad alta velocità nella rete di servizi e posizionare i dati utilizzati di frequente più vicino al servizio, in modo che sia possibile accedervi in ​​qualsiasi momento.

La memorizzazione nella cache non è solo "veloce", è anche stabile

Quando molte persone sentono cache, la loro prima reazione è "accelerare". Sì, l'accesso ai dati in memoria è molto più veloce dell'interrogazione del database, a volte anche centinaia di volte più veloce. Ma questa è solo metà della storia.

Ancora più importante, ti aiuta a gestire i picchi di traffico. Quando si verifica un numero elevato e improvviso di richieste, il livello della cache può assorbire la maggior parte della pressione e il database dietro di esso non sarà sopraffatto. La resilienza dell'intero sistema è aumentata e gli utenti sperimentano un'esperienza fluida e fluida, anziché ritardi improvvisi. È come aggiungere un cuscino intelligente al sistema.

Inoltre, riduce silenziosamente le dipendenze tra i servizi. Alcuni dati di base richiesti dal servizio A non devono essere richiamati ogni volta dal servizio B. Possono essere ottenuti direttamente dalla cache condivisa. Anche se il servizio B è temporaneamente in condizioni minori, A può comunque funzionare normalmente per un certo periodo di tempo e la tolleranza ai guasti complessiva del sistema sarà naturalmente migliorata.

Come dovrebbe essere una buona cache distribuita?

Quando scegli, non concentrarti solo sui numeri delle prestazioni. Devi porti alcune domande: è davvero facile integrarsi nella mia architettura di microservizi esistente? È facile o laborioso espandersi? Quando i dati devono essere aggiornati, possono garantire risultati coerenti visti da più servizi?

Una soluzione ben progettata dovrebbe sembrare fatta su misura per un ambiente di microservizi. Non è necessario effettuare il refactoring in modo significativo del codice per utilizzarlo e l'accesso dovrebbe essere agevole. Anche l'espansione orizzontale è naturale. Man mano che l'azienda cresce, l'aggiunta di nodi porterà a una maggiore capacità e a un throughput più elevato. È meglio automatizzare questo processo senza troppi oneri operativi e di manutenzione.

La persistenza e l'elevata disponibilità non possono essere ignorate. Se il server cache viene riavviato, tutti i dati andranno persi o potranno essere parzialmente ripristinati? Se un nodo del cluster si guasta, gli altri nodi possono subentrare senza problemi nel lavoro? Queste caratteristiche determinano quanto sia affidabile in un ambiente di produzione.

Alcune idee per far sì che il caching davvero "funzioni"

Introdurre la memorizzazione nella cache non significa solo aggiungere uno strumento e terminarlo. Come usarlo è più importante.

Cosa memorizzare nella cache? Non vale la pena memorizzare nella cache tutti i dati. Dati che cambiano estremamente rapidamente e sono diversi ogni volta che li interroghi diventeranno ingombranti se lasciati soli. I dati più adatti sono quelli "caldi" che cambiano meno frequentemente ma a cui si accede più frequentemente, come cataloghi di prodotti, informazioni di base sugli utenti, elenchi di paesi e regioni, ecc.

Prestare attenzione alla strategia di aggiornamento. È necessario progettare per evitare la comune "penetrazione della cache" (richiedere dati inesistenti, bypassare la cache e penetrare ogni volta nel database) e la "valanghe di cache" (un gran numero di cache che falliscono contemporaneamente e tutte le richieste che fluiscono al database). Ad esempio, imposta un valore nullo a breve termine per chiavi inesistenti o scagliona il tempo di scadenza della cache.

Un'altra pratica consiste nell'utilizzare la memorizzazione nella cache multilivello. Configura una cache estremamente veloce (come Ehcache) nella memoria locale del servizio, abbinata a una cache distribuita globale (come il cluster Redis). La cache locale gestisce richieste ad altissima frequenza e la cache distribuita garantisce la condivisione e la coerenza dei dati. La combinazione dei due spesso produce risultati migliori.

fare un passo avanti

La tecnologia è in continua evoluzione. Oggi, alcune soluzioni avanzate di caching distribuito hanno iniziato a essere profondamente integrate con gli ambienti nativi del cloud, supportando la distribuzione containerizzata e il funzionamento e la manutenzione intelligenti basati su Kubernetes. Stanno anche esplorando un’eliminazione più intelligente dei dati e indicatori di monitoraggio più dettagliati, in modo che sia possibile non solo utilizzarli, ma anche vederli chiaramente e gestirli bene.

Dopotutto, l’introduzione del caching distribuito non è una decisione puramente tecnica. Riguarda il modo in cui offri un'esperienza di servizio stabile e veloce ai tuoi utenti e il modo in cui mantieni la calma della tua architettura quando la tua azienda cresce rapidamente. Quando i tuoi microservizi non saranno più "occupati" per query ripetute e quando i dati potranno apparire silenziosamente e rapidamente dove dovrebbero essere quando necessario, l'intero sistema brillerà di un diverso tipo di efficienza e vitalità. Questa potrebbe essere la bellezza razionale e affascinante dell'architettura.

Fondata nel 2005,kpowerè dedicata a un produttore professionale di unità di movimento compatte, con sede a Dongguan, nella provincia del Guangdong, in Cina. Sfruttando le innovazioni nella tecnologia di azionamento modulare,kpowerintegra motori ad alte prestazioni, riduttori di precisione e sistemi di controllo multiprotocollo per fornire soluzioni di sistemi di azionamento intelligenti efficienti e personalizzate.kpowerha fornito soluzioni di sistemi di azionamento professionali a oltre 500 clienti aziendali in tutto il mondo con prodotti che coprono vari campi come sistemi domestici intelligenti, elettronica automatica, robotica, agricoltura di precisione, droni e automazione industriale.