Quando i tuoi microservizi iniziano a rimanere bloccati nel traffico, come allarghi la corsia?

Immagina: hai progettato un sistema di microservizi molto sofisticato e ogni piccolo modulo funziona bene. Ma il numero degli utenti aumentò improvvisamente di dieci volte e l'intero sistema era come un'autostrada a una corsia nelle ore di punta: ovviamente ogni servizio non era interrotto, ma la coda delle richieste era infinita e la risposta era così lenta che veniva voglia di lasciare la tastiera.

Ciò è probabilmente dovuto al fatto che la scalabilità non ha tenuto il passo. Spesso il problema non è il codice in sé, ma la struttura. I microservizi sono suddivisi in modo molto fine, ma la catena di chiamate tra loro è troppo lunga e troppo disordinata; oppure il database è diventato l'unico collo di bottiglia; oppure un certo servizio fondamentale trema sotto pressione. Al giorno d'oggi, aggiungere semplicemente dei server è come aggiungere qualche macchina in più a un ingorgo, rendendolo ancora più congestionato.

Come dovrebbe essere allargata la strada?

In effetti, l'idea può essere molto "fisica". È come assemblare un preciso dispositivo meccanico. Solo quando gli ingranaggi si ingranano e la trasmissione è fluida l’intero sistema può funzionare in modo efficiente. Il fulcro della scalabilità dei microservizi è rendere il flusso di dati e il flusso aziendale come un sistema di trasmissione ben progettato, indipendente e collaborativo.

Non impilare semplicemente le macchine, chiedi il “rapporto di trasmissione”

La prima reazione di molte persone è: espansione orizzontale, aggiungi istanze! Funziona sicuramente, ma è costoso e talvolta tratta i sintomi piuttosto che la causa principale. Proprio come usare un servo per controllare un braccio robotico, se la struttura di trasmissione stessa è allentata o presenta degli spazi vuoti, non importa quanto sia costoso il motore, il movimento sarà comunque impreciso e instabile.

La vera progettazione della scalabilità inizia con diversi "giunti di trasmissione":

• Progettazione “apolide” dei servizi: consente a ciascuna istanza del servizio di elaborare le richieste in modo indipendente senza fare affidamento sui dati nella memoria locale. Si tratta di parti standardizzate che possono essere sostituite o aggiunte in qualsiasi momento senza la necessità di modificare l'intera linea di produzione.
• Coda di messaggi come "attrezzatura buffer": negli scenari ad alta concorrenza, utilizzare le code di messaggi per archiviare temporaneamente le richieste, consentendo al servizio di "digerirle" a una velocità uniforme in base alle proprie capacità di elaborazione per evitare di essere sopraffatti dal traffico improvviso. Agisce come un volano o un ammortizzatore nei macchinari, attenuando l'impatto.
• Sharding dei dati, partizionamento delle tabelle e memorizzazione nella cache: Evita che tutti i dati siano affollati su un canale. I database sono divisi in base all'attività, le tabelle sono divise in base al volume di dati e i dati importanti vengono memorizzati nella cache. È simile a una trasmissione multiasse, che condivide il carico.
• Il gateway API funge da "centro di pianificazione": Ingresso unificato, responsabile del percorso, della limitazione di corrente e dell'interruttore automatico. È come una scatola di controllo, che coordina la sequenza di avviamento e la potenza di ciascun motore (servizio) per evitare che il guasto di un collegamento causi la paralisi dell'intera linea.

Potresti chiedere: "Comprendo tutti questi principi, come posso evitare di cadere nella trappola?"

Bella domanda. La teoria è molto ricca, ma la realtà è molto scarna. Parliamo di pratico.

D: Quanto è dettagliata la ripartizione del servizio? R: Non essere “micro” solo per il gusto di esserlo. È sufficiente che ogni servizio possa essere sviluppato, distribuito e scalato in modo indipendente e corrisponda a un chiaro limite di capacità aziendale. Se è troppo fine, il funzionamento, la manutenzione e il sovraccarico della rete influiranno negativamente sulle prestazioni; se è troppo grossolana si perde il significato della dilatazione elastica. Proprio come un insieme di moduli meccanici, l'interfaccia tra i moduli è chiara e facile da smontare e montare, il che è un buon design.

D: Come scegliere uno stack tecnologico? R: Non esiste una soluzione miracolosa. Quello che si adatta al team e allo scenario aziendale è il migliore. Ma una cosa è fondamentale: mantenerlo leggero e coerente. In particolare, i protocolli di comunicazione e i formati dei dati dovrebbero essere il più possibile unificati per ridurre i costi di conversione. Immagina che se alcune apparecchiature utilizzano la pressione idraulica, altre utilizzano la pressione pneumatica e altre ancora utilizzano la trasmissione a cinghia, la manutenzione sarà un incubo.

D: Come tenere il passo con il monitoraggio, il funzionamento e la manutenzione? R: La scalabilità non è solo una questione di runtime. Senza una visione chiara del monitoraggio, non hai idea di dove sia il collo di bottiglia. È necessario essere in grado di monitorare quanti servizi copre una richiesta e quanto tempo viene impiegato in ciascun collegamento. Registri, indicatori, tracciamento dei collegamenti, non manca nessuno. È come installare più sensori su una macchina complessa. Anomalie nelle vibrazioni, nella temperatura e nella pressione possono essere rilevate immediatamente.

Trattare l’architettura come un’opera d’arte dinamica

La creazione di microservizi scalabili non è un progetto "impostalo ed eseguilo per sempre". È più come eseguire il debug di un sofisticato sistema meccanico, che richiede continua osservazione, messa a punto e persino ricostruzione.

All'inizio potrebbe essere solo una semplice divisione. Man mano che l'attività diventa più complessa, scoprirai che alcuni servizi vengono chiamati troppo frequentemente e devono essere unificati; alcuni flussi di dati sono diventati punti caldi ed è necessario introdurre delle cache; alcune dipendenze esterne sono instabili ed è necessario aggiungere un meccanismo di interruzione del circuito... Questo è un processo iterativo.

La cosa interessante è che quando si scompone il problema della scalabilità in specifici problemi di “efficienza di trasmissione”, la soluzione spesso diventa chiara. Non perseguirai più ciecamente la "concorrenza elevata", ma penserai a: perché il tempo di risposta di questo servizio fluttua? È possibile ridurre l’accoppiamento tra i due servizi? Dove si verifica il collo di bottiglia I/O dell'archiviazione dei dati?

PerchékpowerVale la pena considerare il piano?

Nell’area della scalabilità dei microservizi,kpowerCiò che forniamo non sono solo strumenti o piattaforme, ma anche un insieme di "pensieri ingegneristici" verificati da un gran numero di pratiche. Comprendiamo i punti critici e le difficoltà nella crescita di questo tipo di architettura, perché abbiamo sperimentato personalmente il ciclo completo dal monolitico al distribuito, dall'espansione operativa all'espansione efficiente e stabile.

Il nostro approccio enfatizza l'"evoluzione graduale". Non si tratta di demolirlo e ricominciare da capo, ma piuttosto di identificare i limiti chiave e iniettare capacità elastiche basate sull’architettura esistente. È come aggiornare il sistema di controllo e i componenti di trasmissione del sistema meccanico esistente per migliorare le prestazioni complessive a un livello superiore senza sostituire tutte le parti principali.

I vantaggi portati da questa idea sono reali: maggiore utilizzo delle risorse, maggiore capacità di far fronte alle fluttuazioni del traffico e il team di sviluppo può concentrarsi maggiormente sull’innovazione aziendale invece di lottare tutto il giorno contro i problemi di prestazioni.

Se stai pensando anche a come rendere la tua architettura di microservizi più a suo agio con la crescita, forse è il momento di cambiare prospettiva e considerare il tuo "sistema di trasmissione digitale" come se progettassi macchinari di precisione. La vera scalabilità porta infine a un’eleganza senza peso.

Fondata nel 2005,kpowerè dedicata a un produttore professionale di unità di movimento compatte, con sede a Dongguan, nella provincia del Guangdong, in Cina. Sfruttando le innovazioni nella tecnologia di azionamento modulare, Kpower integra motori ad alte prestazioni, riduttori di precisione e sistemi di controllo multiprotocollo per fornire soluzioni di sistemi di azionamento intelligenti efficienti e personalizzate. Kpower ha fornito soluzioni di sistemi di azionamento professionali a oltre 500 clienti aziendali in tutto il mondo con prodotti che coprono vari campi come sistemi domestici intelligenti, elettronica automatica, robotica, agricoltura di precisione, droni e automazione industriale.