Onderwerp: 300-500 duizend bezoekers, met deze hardware.

@Wonko, bedankt!

Ik ben me nu aan het verdiepen in memcached, dit ziet er zéér interessant uit!

Alleen kom ik er op http://www.danga.com/memcached/ in het gedeelte "What about database replication?" niet helemaal uit.

Bedoelen ze nou dat je de database opdeelt, en op die manier de writes gaat verdelen over meerdere servers?

Dat bedoelen ze inderdaad; maar dat is hier vermoedelijk nog niet aan de orde. Zorg er gewoon voor dat je systeem goed opgesteld staat, dat de parameters van de webservers en databaseservers goed staan en... draai loadtests (benchmarks) met realistische datasets en load.

Ik kan het niet genoeg benadrukken: je hebt alles liggen, test het gewoon uit. Grijp dan pas naar zaken als memcached en aanverwanten. Je applicatie klinkt vrij eenvoudig; en als je dataset onder controle te houden is, zou dat zonder problemen moeten lopen.

Om deze hele opstelling te kunnen beoordelen, ontbreekt 1 belangrijk gegeven;

Waar wordt de data van de website opgeslagen, de pagina's zelf dus?

Persoonlijk zou ik dit in een dergelijke setup opslaan in MySQL. In dat geval, wordt dus alle data geladen vanaf de SQL servers. Er wordt dan dus geen data geladen vanaf de web servers - wat dus betekent dat RAID-0 feitelijk geen meerwaarde in de webservers. Hier zou ik dus gewoon RAID-1 gebruiken.

Voor de MySQL servers zul je aan RAID-1 met normale 7200RPM schijven zeker niet genoeg hebben voor een dergelijk bezoekersaantal. Ik zou hier eerder denken aan RAID-10 met minimaal 10.000RPM schijven.

Ik weet natuurlijk niet precies hoe goed de bezoekers over de dag verdeeld zullen zijn, en ook niet hoeveel queries iedere bezoeker met zich mee brengt, maar ik kan je met vrij veel zekerheid zeggen dat 2 mysql servers met 7200rpm RAID 1 die 500.000 bezoekers niet zullen gaan trekken.

Oorspronkelijk geplaatst door wonko

Dat bedoelen ze inderdaad; maar dat is hier vermoedelijk nog niet aan de orde. Zorg er gewoon voor dat je systeem goed opgesteld staat, dat de parameters van de webservers en databaseservers goed staan en... draai loadtests (benchmarks) met realistische datasets en load.

Ik kan het niet genoeg benadrukken: je hebt alles liggen, test het gewoon uit. Grijp dan pas naar zaken als memcached en aanverwanten. Je applicatie klinkt vrij eenvoudig; en als je dataset onder controle te houden is, zou dat zonder problemen moeten lopen.

Ik ga idd zsm alles testen, mocht uit de tests blijken dat dit niet mogelijk is dan zal ik eens verder gaan met memcached.

Over de app. het is een zoekmachine met bedrijven er op, bezoekers zullen dus de bedrijvendatabase gaan doorzoeken, wat misschien wel wat load met zich mee gaat brengen.

@Apoc

De pagina's worden dmv eval() uit de mysql database gelezen. Afbeeldingen en dergelijke zullen op de server zelf staan. Maar mijn bedoeling was om de pagina's op te slaan op de webservers dmv een uurlijkse cronjob, waardoor de load van de database af gaat. Of kan ik die load beter op de DB hebben dan de web servers?

Thanks!

hmmmz, je werkwijze is wat vreemd. Waarom ga je niet de eerste maal de pagina gegenereerd werd de uitvoer ook opslaan in een file?

Ergens terug geef ik ook aan dat ik de pagina's wil laten opslaan dmv een uurlijkse cronjob op de webservers.

Ik heb altijd al gewerkt met php pagina's in mysql, via een zelf gemaakt cms.
Dit was erg makkelijk voor het draaien van backups, wijzigingen aanbrengen, uitbreiden etc.

Drie vragen nog dus:

1. Is het verstandig om dit te blijven gebruiken? icm met de cronjob.

2. Ik heb op de webservers een map met een aantal functies staan.
Deze map wordt in zijn geheel op de index geincluded. Eventueel kan ik dit ook via de database doen, dus een tabel met functies die dmv eval worden geincluded.

3. Ik wil nog een loadbalancer aanschaffen voor de webservers, aan wat voor een configuratie moet ik denken? Is een AMD Opteron of een celleron genoeg? Hoeveel geheugen etc.?


*Er is 3500 euro (moet voldoende zijn toch ) te besteden aan een mysql server, ik ben nu op ahead-it het 1 en ander aan het samen stellen, hier kom ik later nog op terug!

6015B-NTR: max. 4 x SAS hot-swap // 32GB DDR-2 // redundante voeding // 2 x PCI-e uitbreiding
1 * 3 Jaar Ahead-IT Server Service met EasyRMA+, Advanced Replacement Service & gratis levering
1 * Supermicro SuperServer 6015B-NTR, 1U, redundante voeding, 2 x PCI-e uitbreiding
1 * Supermicro Slim DVD lezer inclusief
1 * Areca 1212, 4 x SATA/SAS hardware RAID, 256MB cache, PCI-E
1 * Areca ARC-BBM Battery Backup Unit
1 * Supermicro IPMI 2.0 SIMSO+ met KVM over IP
4 * Kingston 2048MB DDR-2 667Mhz Fully Buffered ECC
4 * Mtron SSD PRO 3.5", 16GB, r/w 130/120MBs, at 0.1ms, low power
2 * Intel Xeon L5410, Harpertown 2.33Ghz Quad Core, FSB1333, 12MB, 32/64 bit, VT, 50W low-voltage
Maximum power consumption at full load: 301W ( = 1,37A ) per server

Totaal excl. BTW € 3.862,33

Zou dit wat zijn? hoeveel hou ik over in GB's met een raid 10 configuratie?

1] houd de Dell aanbiedingen in de gaten.

2] Heb je de tests hierboven beschreven door wonko en apoc uitgevoerd, en wat zijn de resultaten?

Oorspronkelijk geplaatst door jeroen2496

6015B-NTR: max. 4 x SAS hot-swap // 32GB DDR-2 // redundante voeding // 2 x PCI-e uitbreiding
1 * 3 Jaar Ahead-IT Server Service met EasyRMA+, Advanced Replacement Service & gratis levering
1 * Supermicro SuperServer 6015B-NTR, 1U, redundante voeding, 2 x PCI-e uitbreiding
1 * Supermicro Slim DVD lezer inclusief
1 * Areca 1212, 4 x SATA/SAS hardware RAID, 256MB cache, PCI-E
1 * Areca ARC-BBM Battery Backup Unit
1 * Supermicro IPMI 2.0 SIMSO+ met KVM over IP
4 * Kingston 2048MB DDR-2 667Mhz Fully Buffered ECC
4 * Mtron SSD PRO 3.5", 16GB, r/w 130/120MBs, at 0.1ms, low power
2 * Intel Xeon L5410, Harpertown 2.33Ghz Quad Core, FSB1333, 12MB, 32/64 bit, VT, 50W low-voltage
Maximum power consumption at full load: 301W ( = 1,37A ) per server

Totaal excl. BTW € 3.862,33

Zou dit wat zijn? hoeveel hou ik over in GB's met een raid 10 configuratie?

Dat is zeker wel wat, maar zoveel processorkracht en RAM heb je waarschijnlijk niet nodig. Ik zou dan eerder wat geld besparen op die configuratie door een enkele quad core te nemen met 4GB ram, en van het geld wat over is kun je waarschijnlijk nog zo'n server kopen (althans, een groot gedeelte ervan) voor load balancing.

Met RAID 10 hou je ongeveer 50% van de diskruimte over (iets minder dan 50%).

Persoonlijk zou ik eerder gaan voor 2x aparte servers, met ieder een quad core cpu, 4GB ram, 2x SSD schijven in RAID1 (of RAID0).

Je zou voor deze configuratie kunnen kiezen voor RAID-0. In verband met de betrouwbaarheid van SSD + het feit dat de data op beide servers aanwezig is, zou dit geen probleem moeten zijn. De kans dat een SSD schijf kapot gaat is vele malen kleiner dan een HDD schijf. Daarnaast biedt RAID-0 meer snelheid en 2 keer zoveel ruimte als RAID-1, en zoals eerder genoemd: als een van de 2 schijven dood gaat zal de hele RAID array verloren zijn, maar je hebt dan dus nog wel alles op de andere server staan. Het is dan ook wel belangrijk dat je voor de MySQL clustering geen master/slave setup gebruikt, want als de master het niet meer doet, heeft ook de slave een probleem. Dat is een risico wat je niet moet nemen.

Overigens; hoe de website van Ahead-it erbij komt dat die configuratie 301 Watt zou verbruiken onder full load is me een raadsel. Zo veel zal die configuratie bij lange na niet gebruiken.

Oorspronkelijk geplaatst door Apoc

Dat is zeker wel wat, maar zoveel processorkracht en RAM heb je waarschijnlijk niet nodig. Ik zou dan eerder wat geld besparen op die configuratie door een enkele quad core te nemen met 4GB ram, en van het geld wat over is kun je waarschijnlijk nog zo'n server kopen (althans, een groot gedeelte ervan) voor load balancing.

Met RAID 10 hou je ongeveer 50% van de diskruimte over (iets minder dan 50%).

Persoonlijk zou ik eerder gaan voor 2x aparte servers, met ieder een quad core cpu, 4GB ram, 2x SSD schijven in RAID1 (of RAID0).

Je zou voor deze configuratie kunnen kiezen voor RAID-0. In verband met de betrouwbaarheid van SSD + het feit dat de data op beide servers aanwezig is, zou dit geen probleem moeten zijn. De kans dat een SSD schijf kapot gaat is vele malen kleiner dan een HDD schijf. Daarnaast biedt RAID-0 meer snelheid en 2 keer zoveel ruimte als RAID-1, en zoals eerder genoemd: als een van de 2 schijven dood gaat zal de hele RAID array verloren zijn, maar je hebt dan dus nog wel alles op de andere server staan. Het is dan ook wel belangrijk dat je voor de MySQL clustering geen master/slave setup gebruikt, want als de master het niet meer doet, heeft ook de slave een probleem. Dat is een risico wat je niet moet nemen.

Overigens; hoe de website van Ahead-it erbij komt dat die configuratie 301 Watt zou verbruiken onder full load is me een raadsel. Zo veel zal die configuratie bij lange na niet gebruiken.

Bedankt voor de heldere uitleg!

Een config als dit zou dus beter zijn? Ik heb hier ook een 5e SSDvoor het geval dat er 1 kapot gaat, dan kan deze direct ge-rebuild worden:

SXSC815: max 8 x SAS hot-swap // 64GB DDR-2 // redundante voeding // 2 x PCI-e uitbreiding
1 * 3 Jaar Ahead-IT Server Service met EasyRMA+, Advanced Replacement Service & gratis levering
1 * Supermicro X7DWU Server Moederbord
1 * Supermicro SC113TQ-R650U, hot-swappable, redundante voeding, 1U
1 * Areca 1680-i, 8 x SATA/SAS hardware RAID, 256MB cache, PCI-E
1 * Areca ARC-BBM Battery Backup Unit
1 * Supermicro 1U riser card 1 x PCI-e 4x rechts
1 * Supermicro IPMI 2.0 SIMSO+ met KVM over IP
2 * Kingston 2048MB DDR-2 667Mhz Fully Buffered ECC
5 * Mtron SSD PRO 2.5", 16GB, r/w 130/120MBs, at 0.1ms, low power
1 * Intel Xeon E5405, Harpertown 2.0Ghz Quad Core, FSB1333, 12MB, 32/64 bit, VT, 80W

€ 3.874,02



2 servers zou nog mooier zijn ja, maar dan krijg ik weer te maken met mysql clustering, heb je hier zware load balancers voor nodig?

Je kunt in principe een veel goedkopere server gebruiken. Zaken die in die configuratie de prijs flink opschroeven zijn:

- RAID controller met 8 poorten
- 5 SSD schijven
- 2u chassis

Je kunt alle 3 problemen oplossen door gebruik te maken van 2 schijven in RAID-0 (zoals gezegd heb je dan dus wel 2 servers nodig voor redundancy). 2 SSD schijven in RAID-0 zullen zeker snel genoeg zijn, en ik vermoed dat 32GB diskspace ook zeker genoeg moet zijn voor de database (of is de database groter dan dat? Zo ja, dan heb je ook wel meer CPU nodig - maar ik kan me slecht voorstellen dat de database ZO groot is). Hou er rekening mee dat databases in principe niet veel ruimte in nemen, het is voornamelijk tekst natuurlijk.

Als je gebruik maakt van 2 schijven in RAID-0 kun je gebruik maken van een 1u chassis, je kan gebruik maken van een 2-poorts RAID controller, en dus ook maar 2 fysieke schijven. Deze zaken zullen de prijs waarschijnlijk bijna halveren, wat je dus ook in staat stelt om voor hetzelfde geld 2 servers te kopen. Kijk bijvoorbeeld eens naar een configuratie als dit:

http://www.ahead-it.be/shop/configur...17&config_nr=1

Ik kom daar uit (met Quad core CPU, 2x 16GB SSD, raid controller en 4GB RAM) uit op 1568 euro, minder dan de helft van het geld dus. Neem daar 2 van et voila

Iets waar je wel rekening mee moet houden; als de stroom uitvalt is er een vrij grote kans dat je RAID array kapot is. Stel dat door stroomuitval dus allebei de servers uitvallen, heb je een probleem. Neem dus in overweging om bijvoorbeeld een goede UPS voor je servers te hangen in dit geval. Dat hoeft in principe helemaal niet veel te kosten, voor een paar 100 euro ben je klaar. Het hoeft natuurlijk geen grote UPS te zijn, een kleine UPS zal zeker in staat zijn om een enkele server een uur in leven te houden).

Afgezien van stroomuitval, is de kans dat beide servers tegelijkertijd uitvallen minimaal. Je hebt dan dus door die 2 servers te clusteren genoeg redundancy. Hou er wel rekening mee dat je cluster met 1 server (tijdelijk) minder prestaties levert dan met de servers samen, maar dat is waarschijnlijk nog wel overkomelijk.

Wat betreft de load balancers; je hebt daar absoluut geen zware load balancers voor nodig, tenzij je veel SSL verkeer doet. Bij normaal verkeer is het enige wat een load balancer doet, het doorsturen van een packet. Het heeft ongeveer dezelfde functie als een router. Voor SSL is het een ander verhaal, want dan moet de load balancer eerst alle packets processen en dan pas doorsturen. Voor een normale load balancer voor een website als dit, is een P3 processor met 1GB ram meer dan genoeg.

Apoc, bedankt voor het verhelderen weer

Wat betreft het nemen van 2 servers, ben ik het met je eens, maar, het risico van de stroomuitval staat mij niet echt aan, zeker niet als de RAID verloreren gaat, daarom neem ik het liefste een Raid Controller Battery Backup, maar volgens mij gaan deze alleen in deze configuratie: http://www.ahead-it.be/shop/configur...21&config_nr=3

Deze server heeft ook de mogelijkheid voor een 2e voeding, welke ik op stroom feed B kan aansluiten voor meer zekerheid.

Aan de andere kant, backups worden elk uur uitgevoerd, misschien is het ook een idee om dit nog vaker te doen (alleen de tabellen die veel gewijzigd worden). Wat er dan zou kunnen gebeuren in een geval dat allebei de servers down gaan, ik de backup + OS binnen het uur weer draaiend heb.



De database is zeer klein, momenteel misschien 300MB. Deze zal wel uitgroeien, maar verwacht daar geen tientallen GB's van



Edit Ik heb de volgende config samen gesteld, maar ben nog niet uit over de processor, kan deze kleiner, groter, meer FSB, meer cache nodig etc?

SCS217: max. 2 x SATA hot-swap // 8GB DDR-2 // 4xGbit LAN
1 * 3 Jaar Ahead-IT Server Service met EasyRMA+, Advanced Replacement Service & gratis levering
1 * Supermicro X7SBi Server Moederbord, 2 x Gbit LAN
1 * Supermicro SC811i-260, 1U
1 * Areca 1200, 2 x SATA II hardware RAID 0/1, PCI-e Volgens Ahead is Areca het snelste, wat zijn jou bevindingen? Ook lijkt deze controler alleen SATA te ondersteunen?
1 * Supermicro IPMI 2.0 SIMSO-HTC
2 * Kingston 2048MB DDR-2 667Mhz ECC
2 * Mtron SSD PRO 3.5", 16GB, r/w 130/120MBs, at 0.1ms, low power
1 * Intel Core 2 Duo Q6600, 2.4Ghz Quad Core, FSB1066, 8MB, 32/64 bit, VT, 105W

Maximum power consumption at full load: 175W ( = 0,80A ) per server

€ 1.570,96 x 2 = 3141,92

Dit is het geworden, zie bijlagen!

Waar is de sempron heen ? Die zou mooi kunnen loadbalancen en die core2duo als web3 dienen.

Ik weet niet of dat wel genoeg is, want stuurt de loadbalancer de bezoeker slechts door, of gaat hij alle pakketjes continu doorgeven? Net iemand gesproken die mij het advies gaf de 1e optie te hebben...

Wil volgens deze howto gaan werken: http://www.howtoforge.com/high-avail...rtbeat-fedora8