Issue #

En bruger rapporterer, at de bruger Relianoid til load balancing med cookie-indsættelsesbaseret sessionspersistens. Oprindeligt var opsætningen perfekt afbalanceret med fem servere. Men efter at have tilføjet en ny server til puljen, distribueres sessionerne ikke som forventet. Den nye server har kun få sessioner, mens de eksisterende servere fortsat håndterer det meste af trafikken.

Forklaring #

Dette problem opstår på grund af den nuværende sessionspersistensmekanisme og den anvendte load balancing-algoritme.

Forståelse af problemet #

1. Sessionspersistens baseret på cookieindsættelseNår man bruger cookieindsættelse til sessionsvedholdenhed, tildeler load balancer en unik cookie til hver klient. Denne cookie dirigerer efterfølgende anmodninger fra den samme klient til den samme backend-server, hvilket sikrer sessionsvedholdenhed. Dette fungerer godt i en stabil opsætning, men skaber udfordringer, når en ny server tilføjes til puljen.

2. Eksisterende sessioner er "fastlåste"Da sessioner allerede er etableret med det oprindelige sæt servere, forbliver disse eksisterende sessioner "fastlåste" til deres oprindelige backends på grund af persistenscookien. Følgelig modtager den nyligt tilføjede server kun nye sessioner eller trafik fra nye klienter, der endnu ikke er blevet tildelt en persistenscookie.

3. Begrænsninger i den nuværende planlægningsalgoritmeMange load balancers bruger en standardplanlægningsalgoritme som Round Robin eller Least Response Time. Disse algoritmer genbalancerer ikke nødvendigvis belastningen, når nye servere tilføjes, især når sessionspersistens er involveret. Dette skyldes, at algoritmerne har en tendens til at opretholde forbindelser til eksisterende backends for aktive sessioner.

Hvorfor sessioner ikke bliver rebalanceret #

Når en ny server tilføjes, begynder den ikke med det samme at dele belastningen ligeligt fordi:

• Eksisterende sessioner er bundet til deres oprindelige backends.
• Standardplanlægningsalgoritmen prioriterer ikke backends med færre sessioner eller forbindelser.

For at opnå en retfærdig fordeling af sessioner er der behov for en anden load balancing-algoritme.

Løsning #

Brug planlægningsalgoritmen "Mindst mulige forbindelser" #

Algoritmen "Mindst mulige forbindelser" er en planlægningsmetode, hvor load balancer vælger den backend-server med færrest aktive forbindelser. Denne tilgang hjælper med at fordele sessioner mere jævnt, især når en ny server tilføjes til puljen.

Her er hvorfor "Mindst mulige forbindelser" fungerer effektivt i dette scenarie:

• Dynamisk rebalancering: I modsætning til algoritmer som Round Robin evaluerer Least Connections konstant, hvilken server der har færrest aktive sessioner. Dette giver den nye server, som i starten har færre sessioner, mulighed for at modtage flere nye forbindelser, indtil belastningen udjævnes.
• Bedre ressourceudnyttelse: Når nye sessioner oprettes, vil de blive dirigeret til serveren med den mindste belastning, hvilket forbedrer den samlede ressourceudnyttelse.

Trin til implementering af algoritmen "Mindst mulige forbindelser" i Relianoid #

1. Få adgang til Relianoid Load Balancer-konfigurationenLog ind på din Relianoid-administrationskonsol, eller brug CLI-værktøjerne, hvis det er relevant.
2. Naviger til indstillingerne for belastningsbalanceringFind indstillingerne for din load balancer-instans, der administrerer serverpuljen med sessionspersistens.
3. Rediger planlægningsalgoritmen:

• Find indstillingen for load balancing-algoritmen eller planlægningsmetoden.
• Skift algoritmen fra den nuværende indstilling (f.eks. Round Robin) til Mindste forbindelser.

4. Gem og anvend ændringerSørg for at gemme dine ændringer og anvende dem på load balancer-konfigurationen. Afhængigt af dit miljø kan dette kræve genstart af load balancer eller udførelse af en blød genindlæsning.
5. Overvåg og verificerNår ændringerne er implementeret, skal du overvåge sessionsfordelingen på tværs af alle servere. Med tiden burde den nye server begynde at modtage flere sessioner, hvilket fører til en mere afbalanceret belastning.

Konklusion #

Ved at ændre load balancing-algoritmen til "Least Connections" sikrer du, at den nyligt tilføjede server kan indhente det forsømte og begynde at håndtere flere sessioner. Denne dynamiske planlægningsmetode tager højde for antallet af aktive forbindelser og fordeler belastningen effektivt, hvilket løser problemet med ubalance forårsaget af sessionspersistens ved indsættelse af cookies.

Hvis du fortsat oplever problemer efter implementeringen af ​​denne ændring, bør du overveje at kontrollere:

• Den nyligt tilføjede servers tilstand og ydeevne.
• Konfigurationen af ​​andre parametre, der kan påvirke belastningsbalancering (f.eks. indstillinger for timeout for session, varighed af fastholdelse osv.).
• Netværks- eller applikationsniveaulogge for potentielle fejl eller flaskehalse.

Ved at følge disse trin kan du optimere din load balancer-konfiguration for at sikre en retfærdig og afbalanceret sessionsfordeling på tværs af alle servere i din pulje.