Quando i tuoi microservizi iniziano a "balbettare", forse il problema è nascosto da qualche parte invisibile.

Immagina questo: hai costruito un sistema abbastanza buono, con una chiara divisione del lavoro tra i microservizi, e dovrebbe funzionare senza intoppi come una sinfonia ben orchestrata. Ma non so quando la velocità di risposta abbia iniziato a rallentare, il caricamento della pagina ha continuato a girare in tondo e occasionalmente sono comparsi diversi errori di timeout. Hai controllato il codice e ampliato le specifiche del contenitore, ma il problema era come una nebbia che si è dispersa per un po' e poi si è ritirata.

In questo momento, hai mai pensato che il collo di bottiglia potrebbe non essere il calcolo, ma i dati che corrono avanti e indietro?

Caching: non una decorazione opzionale, ma il motore nascosto della performance

Nel mondo dei microservizi, i servizi spesso dialogano tra loro. Una richiesta dell'utente può richiedere che cinque o sei servizi si chiedano reciprocamente di precisare la risposta. Ogni richiesta è un viaggio in rete, una query sul database. Quando il traffico aumenta, la strada diventa congestionata.

Ciò che fa la cache è in realtà molto semplice: memorizza temporaneamente le risposte alle domande più frequenti in un luogo più vicino a chi richiede la domanda. La prossima volta che qualcuno pone la stessa domanda, il sistema non dovrà più percorrere lunghe distanze per verificare, ma potrà semplicemente fornire la risposta precedente. È come avere un blocco note pubblico in un ufficio affollato. Chi ha bisogno di cercare un numero utilizzato di frequente può semplicemente dare un'occhiata al blocco note senza dover correre ogni volta all'archivio.

Ma la memorizzazione nella cache dei microservizi è molto più che semplicemente "mettere un blocco note". Deve decidere cosa registrare, per quanto tempo ricordarlo, quando aggiornarlo e anche garantire che i dati visualizzati da più servizi siano coerenti. Fatto bene, è un acceleratore; fatto in modo sciatto, diventa una fonte di caos di dati.

Perché la tua soluzione di memorizzazione nella cache potrebbe non funzionare come dovrebbe?

Molte persone inizialmente pensavano che per il caching non sarebbe bastato aggiungere Redis o Memcached? Ma quando l’ho usato davvero, mi sono reso conto che le cose non erano così semplici.

Ad esempio, "penetrazione della cache": qualcuno continua a interrogare un dato che non esiste affatto e non è nella cache. La richiesta colpisce ogni volta il database sottostante, sovraccaricandolo. Un altro esempio è la "valanghe di cache": un gran numero di cache fallisce contemporaneamente, tutte le richieste si precipitano immediatamente al database e il sistema potrebbe essere paralizzato all'istante. Esiste anche un problema più sottile di "coerenza dei dati": il servizio A aggiorna i dati, ma la cache del servizio B è ancora una versione precedente e le informazioni visualizzate dall'utente non sono coerenti.

Alla base di questi problemi c'è spesso il fatto che la strategia di memorizzazione nella cache viene trattata come una patch aggiunta successivamente, piuttosto che come un componente principale progettato dall'inizio.

Un'idea progettuale maggiormente integrata nella texture

Invece di trattare la memorizzazione nella cache come un plug-in separato, dovrebbe far parte del modo in cui i servizi comunicano tra loro. Per alcune richieste, il risultato non cambierà a breve termine, quindi memorizzalo audacemente; per alcuni dati è accettabile un piccolo ritardo, quindi aggiornali in modo asincrono. La chiave è chiarire durante la progettazione dell'architettura quali dati sono adatti per la memorizzazione nella cache, con quale granularità e come invalidarli e sincronizzarli correttamente.

Ciò richiede il supporto di strumenti, ma richiede anche un cambiamento di pensiero. Gli strumenti dovrebbero aiutarti a implementare questa idea, non aggiungere nuova complessità.

Come funziona in uno scenario del mondo reale?

Diamo un'occhiata a uno scenario comune: una pagina dei dettagli del prodotto deve chiamare servizi utente, servizi di inventario, servizi di prezzo, servizi di valutazione, ecc. Se non viene eseguita alcuna elaborazione, questa catena di chiamate dovrà essere attraversata ogni volta che la pagina viene aperta.

Cosa succede se viene introdotto un livello di memorizzazione nella cache ragionevole? Le informazioni dell'utente possono essere memorizzate nella cache per 12 ore, lo stato dell'inventario per 30 secondi e i prezzi e le recensioni per 5 minuti. Tempi di scadenza diversi corrispondono a frequenze di modifica diverse dei dati. Il tempo di caricamento della pagina può essere ridotto da centinaia di millisecondi a decine di millisecondi. Dietro questo cambiamento c'è una significativa riduzione della pressione del database e un miglioramento della flessibilità complessiva del sistema.

Naturalmente, ciò richiede una messa a punto accurata: quali dati vale la pena memorizzare nella cache? Per quanto tempo viene memorizzato nella cache? Come si attiva il meccanismo di aggiornamento? Queste decisioni si basano su una profonda comprensione della logica aziendale, non solo sulla configurazione tecnica.

Quando scegli, dove dovrebbero guardare i tuoi occhi?

Deve essere abbastanza leggero da impedire che il processo di inserimento diventi un nuovo disastro tecnico. È meglio adattarsi in modo naturale ai processi di sviluppo esistenti piuttosto che lasciare che il team impari da zero una nuova serie di concetti complessi.

È meno invasivo per il codice aziendale. Gli ingegneri dovrebbero concentrarsi sulla logica aziendale stessa anziché spendere molte energie nella gestione manuale di ciascuna regola della cache. I meccanismi automatizzati e intelligenti di invalidazione e aggiornamento sono particolarmente importanti in questo caso.

Inoltre, l’osservabilità è essenziale. È necessario essere in grado di vedere chiaramente qual è il tasso di riscontro della cache, quante richieste vengono salvate e quali strategie di memorizzazione nella cache sono più efficaci. La trasparenza può portare un controllo reale.

Deve resistere alla prova del traffico reale. La soluzione stessa non può diventare un nuovo singolo punto di fallimento. Deve avere un design ad alta disponibilità ed essere in grado di rimanere stabile sotto pressione.

fare un passo avanti

Quando il sistema rallenta, le persone vogliono istintivamente aggiornare hardware e codice. Questo è certamente vero. Ma a volte la leva più efficace si nasconde nel modello comunicativo dell’architettura. Salvando i dati provenienti da viaggi non necessari e riducendo la duplicazione del lavoro tra i servizi, il potenziale del sistema può essere liberato oltre le vostre aspettative.

Non si tratta di aggiungere una componente tecnologica interessante, si tratta di riesaminare l’efficienza del flusso di dati. Quando si inizia a pensare alla memorizzazione nella cache non solo come una scelta tecnologica, ma come una filosofia di progettazione, le risposte a molti colli di bottiglia possono emergere naturalmente.

Nel mondo dei microservizi, la velocità spesso non dipende dalla velocità di esecuzione di un singolo servizio, ma dall'intelligenza con cui collaborano. La strategia di memorizzazione nella cache appropriata è la parte che rende questa collaborazione più intelligente e meno dispendiosa in termini di manodopera. Non è rumoroso, ma è vitale.

Fondata nel 2005,kpowerè dedicata a un produttore professionale di unità di movimento compatte, con sede a Dongguan, nella provincia del Guangdong, in Cina. Sfruttando le innovazioni nella tecnologia di azionamento modulare,kpowerintegra motori ad alte prestazioni, riduttori di precisione e sistemi di controllo multiprotocollo per fornire soluzioni di sistemi di azionamento intelligenti efficienti e personalizzate.kpowerha fornito soluzioni di sistemi di azionamento professionali a oltre 500 clienti aziendali in tutto il mondo con prodotti che coprono vari campi come sistemi domestici intelligenti, elettronica automatica, robotica, agricoltura di precisione, droni e automazione industriale.