Onderwerp: Simpele clustering/load balancing

Situatie:
- Website met groot aantal bezoekers
- Content veelal statisch met kleine php scripts met een klein database (file-database, geen mysql)
- Hardware; SATA schijf, 4GB geheugen, Core2Duo CPU (niet bij de hand welke)

Geheugen raakt erg snel vol door Apache en de load stijgt naar de 10.

Hoe is dit op een simpele schets te loadbalancen?

Wat noem jij een groot aantal bezoekers?
We weten ook niet wat voor kennis jij hebt.
Stel het zijn maar 5000 bez. per dag. Dan ligt het dus echt niet aan de bezoekers, maar aan je config.
Graag zo volledig mogelijk een OP maken.

Loadbalancer
|-------|--------|--------|-----
Server Server Server Etc.?
---------------|----------------
Fileserver?

Je zou al kunnen beginnen door de statische files te laten serveren door lighthttpd, dit kan een stuk meer aan dan apache.

Oorspronkelijk geplaatst door opinion

Wat noem jij een groot aantal bezoekers?
We weten ook niet wat voor kennis jij hebt.
Stel het zijn maar 5000 bez. per dag. Dan ligt het dus echt niet aan de bezoekers, maar aan je config.
Graag zo volledig mogelijk een OP maken.

Ruim boven de 50.000 uniek.

Okay, dan kan je inderdaad al een beetje gaan kijken naar loadbalacing met een loadbalancer. Dus een simpele machine die het httpverkeer naar 1 van de 2 servers stuurt. steeds om en om dus. Dan kan je de mysql (als je die gebruikt iig) databases laten syncen met rsync, en wellicht nog een fileservertje erachter bouwen. De loadbalancer hoeft trouwens niet een krachtige machine te zijn. een celeron 2.5 kan al ruim een miljoen requests per minuut aan.

Oorspronkelijk geplaatst door opinion

Okay, dan kan je inderdaad al een beetje gaan kijken naar loadbalacing met een loadbalancer. Dus een simpele machine die het httpverkeer naar 1 van de 2 servers stuurt. steeds om en om dus. Dan kan je de mysql (als je die gebruikt iig) databases laten syncen met rsync, en wellicht nog een fileservertje erachter bouwen. De loadbalancer hoeft trouwens niet een krachtige machine te zijn. een celeron 2.5 kan al ruim een miljoen requests per minuut aan.

De website rekent + leest veel (dezelfde) bestanden, ongeveer 250 bestanden van 3kb groot. Is een fileserver dan handig?
Er draait geen mysql server.

Wat voor software kan je draaien op je loadbalancer? Waarmee 'balanced' hij dit?
Een goede VPS is dus eigelijk ook voldoende voor balancing?

Dit heb ik zelf nooit gerealiseerd, maar ik denk dat iptables in een hele uitgeklede linuxversie met firewall en security hier makkelijk aan kan voldoen. IPtables kan namelelijk verkeer routen, en ondersteund ook round-robin techniek Misschien dat wat om naar te kijken?

Een fileserver zorgt ervoor dat de beide webservers altijd bij dezelfde data kunnen en dat deze data vanaf beide webservers benaderd kan worden. Hoewel een load-balancer niet veel nodig heeft, zou ik hier toch een dedicated systeem voor gebruiken. De software zit standaard in Linux en heet ipvs.

Eventueel kun je een provider zoeken die zelf al een webhosting cluster heeft. Je kunt dan gebruik maken van zijn load-balancer en fileserver en daarbij zelf twee webservers toevoegen. Een soort load-balanced dedicated server dus.

Oorspronkelijk geplaatst door gjtje

Je zou al kunnen beginnen door de statische files te laten serveren door lighthttpd, dit kan een stuk meer aan dan apache.

Zit er groot verschil in Apache vs Lighthttpd? Ik bedoel dus kwa performance.

Voor statische files zeker. Apache2 is ook wel ver te tunen, maar Lighttpd is voor statische files wel aan te raden.

Zelf een zeer grote webshop als klant waar we onlangs weer wat aanpassingen hebben gedaan. De images naar een aparte imageserver bijvoorbeeld, gaf weer een winst van 28%. En dan draaien we nog gewoon Apache2.2

Ik heb snel wat in elkaar getekend.

Zelf hebben we een soort gelijke opstelling.
Wij gebruiken een loadmaster 2500 (kan geen link plaatsen, aangezien dit men eerste post is) als loadbalancer.
"When S-NAT is enabled, the real servers can access the internet using the Load Master as a gateway. The Load Master will use “masquerading” so that connection requests from the real servers seem to originate on the Load Master. This means that the real servers can be on a private network and still have access to the internet."

Op deze loadmaster kun je meerdere virtuele ip addressen instellen.
Deze loadmaster ondersteunt vele manieren kwa load balancing policies (weighted round robin, round robin, least connection, weighted least connection, adaptive, fixed weighting)

Kortom, wij vinden hem ideaal en zijn zeer te spreken over deze loadbalancer.
Wij hebben ook ervaring gehad met software-matige clustering/loadbalancing (linux virtual server) hier waren wij absoluut niet over te spreken. Anderen zullen ongetwijfeld een andere mening hierover hebben.

Wij gebruiken op dezelfde manier als bijlage ook een file/NFS server.
De html map op de webservers word elke 5 minuten gesynchroniseerd met de file server dmv rsync. (van share naar html map)
Als je dit niet zou doen, en gewoon rechtstreeks mounten naar de file/NFS server zou dit veel latency opleveren.
Webservers heb je denk ik aan dual xeon met 4 gig genoeg aan.
File server kun je voor SAS gaan, maar is wel prijzig. SATA met een goede raid is ook goed te doen. Over raid kan ik je niet adviseren, kan alleen zeggen dat wij RAID 50 gebruiken.

De statische webservers hebben geen gesynchroniseerde html directory, anders hadden we net zo goed geen file/NFS server kunnen aanschaffen.
Statische webservers hebben niet superveel te doen. mits je deze goed configureert (mod_compress en mod_expire kun je genoeg performance mee winnen, aan beide zitten wel nadelen!) Ik denk dat een c2d-tje met 2 á 4 gig geheugen genoeg is. voor de redunantie is het wellicht beter om 2 statische webservers te nemen. voordeel is wel dat je meerdere websites via deze statische "route" kunt voorzien van statische content, wat voor deze websites ook weer een (lichte) performance winst kan opleveren.
Lighttpd is een goede webserver voor statische content.

Al met al is het een zeer grote investering een hardware matige loadbalancer, maar zeker wel ideaal. Vooral omdat de schaalbaarheid redelijk goed is.
Hij heeft tot nu toe ook zijn werk altijd goed gedaan.

Als je vragen hebt kun je me gerust een PM sturen

Hier kun je ook eens kijken naar het verschil tussen Apachen en Lighthttpd:

http://forums.bsdnexus.com/viewtopic.php?pid=6155

Zoals je kunt zien scheelt het vooral veel met bijv. RubyOnRails

Als loadbalancer raad ik je HA-Proxy aan. Simpel, goedkoop. Ik weet niet hoeveel geld je hebt, maar een professionele loadbalancer zit boven de 5000 euro, zo niet de 10.000. HA-Proxy is gratis, en ondertussen heb ik er zoveel ervaring mee dat ik kan zeggen dat het voor dit soort doeleinden (hoogstwaarschijnlijk) prima zijn best doet.