Onderwerp: Rack server vs blade server

Oorspronkelijk geplaatst door Ramon Fincken

Klopt, maar uitkijken met winkelmandjes en andere niet statische zaken. Ik ben zeer benieuwd naar de huidige setup, en al zeker naar het aantal bezoekers en load ..

Dan ben jij niet de enige .

Het gaat wekelijks om zo'n 10 -15 miljoen pageviews wereldwijd. Het script zelf heeft geen last van hoge load, dit is zelfs al enkele malen geoptimaliseerd door experts. Maar omdat de piekpunten steeds vaker voorkomen en groter worden wordt het allemaal niet meer zo door de huidige servers getrokken. De servers hebben allemaal 2 quad core cpu's (verschillende AMD, andere Intel) en 8 of 16gb geheugen. Met normale 7200 schrijven en een database server met twee SSD's. De exacte load weet ik zo niet, maar je merkt dat de websites op verschillende tijden langzaam worden. Op die momenten worden er natuurlijk geen back-ups gemaakt.

Over de schijven: Gebruik je RAID? Wat voor? Ook nergens 15K schijven?
Webserver: loadbalanced met apache erachter? Nergens ngnix of varnish ervoor?

Nergens 15K schijven, enkel voor de databases welke draaien op de SSD's. Verder staat alles in RAID-1

nergens ruimte voor bv RAID 10 ? ( 4 schijven, geen hotspare )
SSD's is leuk, maar haalt het niet tegenover RAM voor caching

10 tot 15 miljoen pageviews valt natuurlijk erg mee. Uitgaand van 12 500 000 per week zit je op zo'n 20 pageviews per seconde. Dat is vrij weinig als je het mij vraagt.

Dan word het interessanter om te kijken naar hoeveel traffic je verbruikt. Kan je hier iets over zeggen? Want als het simpele paginas zijn dan kan 7200 schijfjes prima. Maar wanneer het gaat om files of iets dan wordt het al minder.

(Met 8 servers gaat het om gemiddeld 2.5 view per seconde per server)

Daarnaast ben ik ook benieuwd of er veel schrijf acties in de database zijn of leesacties? %schrijf%/%lees% ?

@Ramon, dan moet ik dan overleggen met mijn huidige hoster, op dit moment gaat het enkel om dedicated servers die ik heb draaien.

@Golden, traffic valt mee, maar het gaat vooral over database acties, bij iedere load wordt er uit 3 databases gelezen, en bij handelingen in 2/3/4 databases geschreven. Verder worden er dagelijks ook meer dan 750 000 emails gestuurd, dit gebeurt op een losse server.

En verder omdat er een nieuw product van ons zit aan te komen waar ook ons netwerk voor moet worden uitgebreid willen we dit meteen meenemen als we eigen servers gaan plaatsen.

Oorspronkelijk geplaatst door Robin C

@Ramon, dan moet ik dan overleggen met mijn huidige hoster, op dit moment gaat het enkel om dedicated servers die ik heb draaien.

@Golden, traffic valt mee, maar het gaat vooral over database acties, bij iedere load wordt er uit 3 databases gelezen, en bij handelingen in 2/3/4 databases geschreven. Verder worden er dagelijks ook meer dan 750 000 emails gestuurd, dit gebeurt op een losse server.

En verder omdat er een nieuw product van ons zit aan te komen waar ook ons netwerk voor moet worden uitgebreid willen we dit meteen meenemen als we eigen servers gaan plaatsen.

Dan praat je idd al over andere gevallen. Wel zou ik idd gaan kijken naar cachen in geheugen. En anders gaan kijken naar bedrijven die erin gespecialiseerd zijn. Wij hebben nu een site met zo'n 60 miljoen pageviews per week. In het begin ook altijd uitbesteedt terwijl we zelf een hoster zijn.

Sinds korte periode hosten we het pas zelf.

Wel vraag ik me af waarom hij leest en schrijft naar 3 servers. Kan je hier iets meer over vertellen? Ik vraag me af of hier geen betere constructie voor te bedenken is.

Probeer een nieuwe structuur neer te zetten waarmee je gemakkelijk kan schalen. En bij voorkeur al je sites op 1 platform, dus dat wanneer je een "node" bijplaatst de resources van zowel je oude als nieuwe site wordt opgescaled. Dit is het best onderhoudbaar en ook zullen waarschijnlijk de pieken op andere tijdstippen liggen waardoor je ook flink kan besparen op hardware.

Ik heb enkele jaren ervaring met HP en Dell. Waar de rackservers van HP goed zijn, vind ik de bladeservers een ramp. Slechte beheersmogelijkheden, brakke software en onkundige support. De laatste 5 jaar werk ik ook met Dell bladeservers binnen een M1000e chassis. De ervaringen hiermee zijn goed. Voldoende netwerk-interfaces op de servers, totaal 2x 1GE onboard en ruimte voor 2 extra mezzanine kaarten voor FC, GE of 10GE. Wanneer je kiest voor Dells eigen switches in blades, houd je de bekabeling ook nog eens goed. Enkel 2x 10GE naar buiten toe voor je traffic en 2x 1GE voor het beheer.

Wanneer je specifieke vragen hebt hoor ik het graag van je.

Daarnaast hoe zijn de servers onderling met elkaar verbonden? Of te wel gaan alle queries via dezelfde UTP als dat de bezoekers komen? 100Mbit? 1000Mbit?

Uit ervaring weet ik dat wanneer bezoekers via een lijn binnenkomen op diverse servers en die querien erop los op de database servers via datzelfde lijntje dat dat ook een vertraging op kan gaan leveren.

Was er destijds verbaasd over maar het verschil was enorm duidelijk. Wel moet ik zeggen dat bij ons de traffic ook enorm was.

Probleem zit hem denk ik in de connectietijd.

Dit hier zou ik eens na moeten vragen bij mijn hoster, ik weet niet als hun hier rekening mee gehouden hebben.

Oorspronkelijk geplaatst door Robin C

Dit hier zou ik eens na moeten vragen bij mijn hoster, ik weet niet als hun hier rekening mee gehouden hebben.

Zou wel een punt kunnen zijn. Misschien overeen gelezen. Maar zou je heel kort kunnen uitleggen wat de huidige opzet is? Hoeveel servers staat de website op. Hoe zijn de database servers opgedeeld? Staan de bestanden op de servers zelf of op een centrale opslag (dus de site zelf).

Het gaat om een groter netwerk van websites, we hebben iniedergeval 8 servers als volgt ingedeeld:
1 database server met 2 SSD's
1 Mail server
5 webservers
1 ftp/file server

Oorspronkelijk geplaatst door Robin C

Het gaat om een groter netwerk van websites, we hebben iniedergeval 8 servers als volgt ingedeeld:
1 database server met 2 SSD's
1 Mail server
5 webservers
1 ftp/file server

Dan heb ik al meteen het gevoel dat er tussen de fileserver en de webservers een bottleneck kan zitten.

Ten eerste 1 Fileserver met 7200rpm disks en 5 webservers kan al een goeie bottleneck zien gezien de bezoekers. Dus inderdaad met een fileserver met SAS 15K verwacht ik dat je al een boel performance winst kan behalen.

Daarnaast ben ik benieuwd hoe ze met elkaar zijn verbonden met elkaar en welk protocol jullie gebruiken voor de filesharing. Wij raden altijd af om de fileservers via een andere switch te verbinden met de webservers of gewoon iets van fiber of iets anders te gebruiken.

Een klein voorbeeld voor wanneer hij dezelfde switch gebruikt:

- Bezoekers trekken 500 Mbit traffic p/s ( even ruim gerekend aangezien dit vroeger een bottleneck bij ons was).
- 500Mbit vanaf webserver naar buiten over de switch. De webserver haalt zijn data bij de fileserver (ook circa 500Mbit).
- Daarnaast maakt de webserver ook nog een connectie naar database server (20Mbit)

Dus op bovenstaande optie moet het wanneer het om een enkele switch, connectie punt gaat alles 2 x afhandelen. Daarnaast hoeft een 2e aansluiting dit niet direct op te lossen aangezien je de gebruik ook nog moet zien te verdelen. Dus ik raad persoonlijk altijd aan het koppelen van servers totaal te scheiden van het verbruik van de bezoekers. En het liefst iets als fiber of een andere mogelijkheid.