PDA

Bekijk Volledige Versie : Redundante webhosting



Beyonder
13/05/04, 18:09
Naar aanleiding van een uitspraak door Frankske dat hij een compleet redundant uitgevoerd hosting platform heeft:

Welke redundante switch types gebruik je? welke twee locates staan je servers? hoeveel servers hangen in je cluster? hoe handel je de backup procedure af? allemaal interessante punten die ik graag belicht zou zien door jou, misschien leren anderen daar weer van.

Natuurlijk wil iedereen (voornamelijk Frankske) graag hen redundantie toelichten.

Beyonder
13/05/04, 19:02
Laat ik het eens starten:

Wij hebben zelf pakweg 24000 gebruikers op een groot redundant uitgevoerd platform.

We gebruiken de Catalyst 4840G switch om 8 servers (met redundant uitgevoerde NFS) aan te sturen. Deze switch hebben we dubbel liggen.
<eerste single point of failure> (de switch dus)

We hebben 24/7 admins, dus als de switch eruit ligt dan komt er gelijk de reserve erop (downtime <30 minuten)

Load is verspreid over 8 x Quatro XEON servers met 4 GB ram ieder, load is als volgt (per server)

[root@kompak remon]# top
6:51pm up 11 days, 3:14, 8 users, load average: 4.96, 3.89, 3.11
358 processes: 355 sleeping, 1 running, 2 zombie, 0 stopped
CPU0 states: 26.3% user, 14.0% system, 0.0% nice, 59.1% idle
CPU1 states: 19.1% user, 11.4% system, 0.0% nice, 68.5% idle
CPU2 states: 21.4% user, 13.3% system, 0.0% nice, 64.2% idle
CPU3 states: 21.1% user, 11.4% system, 0.0% nice, 66.4% idle
Mem: 3963028K av, 3414664K used, 548364K free, 0K shrd, 236564K buff
Swap: 514040K av, 273160K used, 240880K free 2358020K cached

Elke machine doet deze traffic:

„_ Total rates: 33749.8 kbits/sec Broadcast packets: 0 „_
„_ 6243.0 packets/sec Broadcast bytes: 0


We hebben redundant uigevoerde connecties, maar dit platorm staat tevens Rsynced in twee verschillende datacentra.

Hoe was dat tevens met jullie redundantie?

Mikey
13/05/04, 19:21
Ik snap even het nut niet van deze topic, dit had je ook op de man af kunnen vragen. Ik krijg hier een beetje het gevoel dat er een big dick size contest wordt gehouden en de andere publiekelijk voor het blok te zetten. Je begint namelijk met een titel die in het algemeen is maar aan het uiteinde komt de bom "Hoe was dat tevens met jullie redundantie?". Jullie heeft hier betrekking op franske.

Tikkeltje arrogant

Dennis
13/05/04, 19:23
Uhm... Remon, ik moet zeggen als ik je niet beter kende, dat ik je heel arrogant zou vinden.

Niet dat ik je goed ken ofzo, maar ik denk dat jij dit soort dingen gewoon interessant vind. Maar zoals je het nu brengt, komt het zeker arrogant over.

Beyonder
13/05/04, 19:24
Het gaat hier over redundante platforms, ik ben benieuwd hoe anderen dit uitvoeren.

Het is een lead off vanuit een ander topic.

Mikey
13/05/04, 19:26
Origineel geplaatst door Beyonder
Het gaat hier over redundante platforms, ik ben benieuwd hoe anderen dit uitvoeren.

Het is een lead off vanuit een ander topic.

verander dan je verhaal eens dat het een algemene topic wordt, dit had je ook gewoon aan hem zelf kunnen vragen.

Beyonder
13/05/04, 19:31
Juist niet: hoe worden redundante platformen gemaakt en hoe performen ze, daarin zijn we toch allemaal geinteresseerd hoop ik ?????

Dennis
13/05/04, 19:37
Maar hoe worden alle schijven ge-synchroniseerd dan? Wordt dit allemaal live gedaan? En wat nou als er via de ftp ge-chmod wordt? Hoe wordt dit doorgevoerd?

Beyonder
13/05/04, 19:39
Alles werkt via NFS, RAID-4 schijven aan elkaar geknoopt, ook lekker redundant nog eens uitgevoerd (Netapps) ik koos niet voor Raidzone omdat Netapp op RAID-4 toch ff iets lekker werkt dan Raidzone op IDE.

Dennis
13/05/04, 19:44
Striping, Mirroring, RAID 0 en RAID 1 zullen ongetwijfeld geen onbekende begrippen meer zijn voor de gemiddelde tweaker. RAID 5 geniet daarentegen minder bekendheid, vooral vanwege het feit dat deze technologie voor een veel kleinere groep bereikbaar is. RAID 5 is een methode om de voordelen van redundancy en striping te combineren met een lage overhead. RAID 1 en RAID 10 (striping + mirroring) hebben weliswaar een hoge betrouwbaarheid en - zeker in het tweede geval - een hoge performance, maar daar tegenover staat een zeer hoge overhead van 50 procent. Voor elke gigabyte effectieve opslagcapaciteit moet de dubbele hoeveelheid fysieke opslagcapaciteit ingezet worden. Om het kostenpatroon van continue systemen onder controle te houden, is er gezocht naar een manier om te besparen op het aantal drives ten opzichte van RAID 1 en RAID 10, maar met behoudt van de hoge beschikbaarheidsgraad. Bij RAID 5 wordt er met behulp van een XOR algoritme uit de aangeboden data een zogeheten pariteit (parity) berekend. De parity wordt verdeeld over de aanwezige schijven. Bij een crash van één van de schijven kan uit de data van de defecte drive gereconstrueerd worden uit de pariteitsgegevens die zijn verdeeld over de overige schijven. Het opslagsysteem blijft beschikbaar, hoewel de performance wel sterk zal afnemen zolang er geen rebuild heeft plaatsgevonden op een vervangende schijf.

Bron: http://www.tweakers.netMaar die harde schijven zijn toch niet direct met elkaar verbonden? Ze staan toch op verschillende locaties? Hoe kun je raid draaien als ze alleen via het netwerk zijn verbonden dan?

Beyonder
13/05/04, 19:49
2 x Netapp Raid 4 systemen op locatie 1
RSYNCHED
2 x Netapp Raid 4 systemen op locatie 2
:)

Blurp
13/05/04, 20:20
en hoe zit het met je internet feed dan?

Beyonder
13/05/04, 20:23
DATA1 :BGP4 x 3 uplinks @ 2 x STM-1 load balanced per uplink
DATA2: BGP4 x 2 uplinks @ STM -16 Level(3) & Telia Sonera.

Data 1 is ons eigen netwerk, data 2 is gehuurd fallback centrum.

Maar nu iemand anders met redundante specs, ik ben gewoon serieus benieuwd, ik wil wat leren !! :)

Cybafish
13/05/04, 20:29
1. Had jij niet laatst een huiltopic geopend omdat je wegging?

2.
root@kompak remon]# top
6:51pm up 11 days, 3:14, 8 users, load average: 4.96, 3.89, 3.11
358 processes: 355 sleeping, 1 running, 2 zombie, 0 stopped
CPU0 states: 26.3% user, 14.0% system, 0.0% nice, 59.1% idle
CPU1 states: 19.1% user, 11.4% system, 0.0% nice, 68.5% idle
CPU2 states: 21.4% user, 13.3% system, 0.0% nice, 64.2% idle
CPU3 states: 21.1% user, 11.4% system, 0.0% nice, 66.4% idle
Mem: 3963028K av, 3414664K used, 548364K free, 0K shrd, 236564K buff
Swap: 514040K av, 273160K used, 240880K free 2358020K cached


Je hebt het over een "quatro" xeon servers. Ik neem aan dat je "quad" bedoelt, maar dan nog zie ik hier maar 4 CPU's staan, terwijl xeon's HTT enabled zijn en je dus in feite 8 CPU's zou moeten zien staan :)

Vervolgens, je hebt het altijd over je "tech team", maar weten zij dan niet dat volgens de regel je swap even, vaak zelfs twee maal zo groot hoort te zijn als je RAM? 512MB swap lijkt me dan ook een beetje mager.

Overigens vraag ik me af waarom er


[root@kompak remon]# top

boven je "top stats" staat. Voor zover ik weet verdwijnt dat gelijk als top daadwerkelijk omhoog komt.

Beyonder
13/05/04, 20:38
#1 De forum eigenaar heeft me een serieuze posting gedaan op PM, daarom kwam ik terug.

Hoe zit dat trouwens met jou huiltopic Btw meerdere accounts zijn niet toegestaan:p

http://www.webhostingtalk.nl/showthread.php?s=&threadid=32968

#2 Hyperthreading hoeft niet altijd (en soms is dat niet slim) enabled te zijn

#3 misschien heb je een probleem aan je oogjes, maar ik lees toch echt 512 MB average usage swap

De rest leest misschien iets beter dan futureflex

Swap: 514040K av, 273160K used, 240880K free 2358020K cached

Kijk eens stiekem naar de CACHED SWAP

Er is voldoende over per machine, zo niet, dan plaatsen we toch weer een machine erbij.

#4 ik heb toch echt een scoll bar in mijn Putty client


BTW: wanneer haal jij je virtuele niet bestaande machines van je webpagina ?:)

BTW2: Flamefest is alweer gestart door Futureflex terwijl dit een topic werd over redundant load balancing webhosting platformen.

Andrew
13/05/04, 20:39
Origineel geplaatst door Cybafish


Overigens vraag ik me af waarom er



boven je "top stats" staat. Voor zover ik weet verdwijnt dat gelijk als top daadwerkelijk omhoog komt.

Staat er hier ook gewoon boven hoor...

[abrouwer@coconut:~] $ top
last pid: 4783; load averages: 0.29, 0.27, 0.21 up 0+09:40:46 20:33:50
65 processes: 3 running, 61 sleeping, 1 zombie
CPU states: 9.2% user, 0.0% nice, 8.6% system, 0.6% interrupt, 81.6% idle
Mem: 69M Active, 55M Inact, 122M Wired, 4948K Cache, 112M Buf, 751M Free
Swap: 2032M Total, 2032M Free

Dennis
13/05/04, 21:01
Dit zal waarschijnlijk verschillen per distro of misschien is dit een verschil tussen Linux/Unix/BSD.

Andrew
13/05/04, 21:03
Origineel geplaatst door DennisCitus
Dit zal waarschijnlijk verschillen per distro of misschien is dit een verschil tussen Linux/Unix/BSD.

Is volgens mij gewoon overal hetzelfde hoor. Net getest op Redhat 9 en FreeBSD 4.9 op beide staat het er gewoon bij.

Dennis
13/05/04, 21:11
Origineel geplaatst door Andrew


Is volgens mij gewoon overal hetzelfde hoor. Net getest op Redhat 9 en FreeBSD 4.9 op beide staat het er gewoon bij. Gebruik je putty? Bij mij neemt TOP toch echt het hele beeldscherm over.

Cybafish
13/05/04, 21:12
Origineel geplaatst door Beyonder
#1 De forum eigenaar heeft me een serieuze posting gedaan op PM, daarom kwam ik terug.

Hoe zit dat trouwens met jou huiltopic Btw meerdere accounts zijn niet toegestaan:p

http://www.webhostingtalk.nl/showthread.php?s=&threadid=32968

#2 Hyperthreading hoeft niet altijd (en soms is dat niet slim) enabled te zijn

#3 misschien heb je een probleem aan je oogjes, maar ik lees toch echt 512 MB average usage swap

De rest leest misschien iets beter dan futureflex

Swap: 514040K av, 273160K used, 240880K free 2358020K cached

Kijk eens stiekem naar de CACHED SWAP

Er is voldoende over per machine, zo niet, dan plaatsen we toch weer een machine erbij.

#4 ik heb toch echt een scoll bar in mijn Putty client


BTW: wanneer haal jij je virtuele niet bestaande machines van je webpagina ?:)

BTW2: Flamefest is alweer gestart door Futureflex terwijl dit een topic werd over redundant load balancing webhosting platformen.

FutureFlex bestaat uit meerdere mensen, ik ben niet eXite. (overigens is het jouw bij een bezittelijk voornaamwoord, als je serieus genomen wilt worden dan zul je toch wat moeten doen aan je Nederlands)

- Ik heb geen probleem met mijn ogen, dankje. Wat ik daarentegen lees is 512Mb AVailable. Die AV heeft niets te maken met average. Die cached die jij daar leest is niet specifiek aan je swap gekoppeld.

- Dat je hyperthreading hebt uitgeschakeld zou kunnen, ik vind het echter maar een vreemd verhaal waar je weer mee op de proppen komt.

- Ik zie het commando top nergens meer terug, aangezien top je window snel refreshed, maar dat zal dan wel aan mij liggen ;)

- Welke virtuele servers op mijn website? Je bedoelt op de statuspagina? Daar staan alleen maar bestaande servers hoor..?

- Dit werd geen topic over redundancy, je trapte gelijk af met een hoop dicksize gebrabbel (as usual). Dit topic is gewoon een monoloog waarin jij jezelf zelfvertrouwen aanpraat. (ook weer, as usual).

Word toch eens volwassen Beyonder, kijk verder dan je neus lang is en maak geen olifant uit een mug.

Beyonder
13/05/04, 21:38
Jij moet eens volwassen worden, problemen maken over grammatica lijkt me zeker op dit forum niet erg zinvol:p buiten het feit dat ik Nederlands nog amper gebruik al svoertaal, maar dat even terzijde.

- Ik heb geen probleem met mijn ogen, dankje. Wat ik daarentegen lees is 512Mb AVailable. Die AV heeft niets te maken met average. Die cached die jij daar leest is niet specifiek aan je swap gekoppeld.

<prima, maar je leest weliswaar dan ook dat het meerendeel van de ram niet in gebruik is, mijn admins weten dus waar ze mee bezig zijn en hoeven niet perse enorm grote swap partities in te stellen, zij weten immers wat zij doen, ik ben geen systeembeheerder:)>

- Dat je hyperthreading hebt uitgeschakeld zou kunnen, ik vind het echter maar een vreemd verhaal waar je weer mee op de proppen komt.

<Natuurlijk Hyperthreading is ook zo enorm handig op een multi purpose cluster niet?>

- Ik zie het commando top nergens meer terug, aangezien top je window snel refreshed, maar dat zal dan wel aan mij liggen

<Als ik een copy/paste doe dan ben ik inmiddels alweer uit top getreden, dat jij dan top erboven ziet staan en denkt dat het niet mogelijk is, tja...>

- Welke virtuele servers op mijn website? Je bedoelt op de statuspagina? Daar staan alleen maar bestaande servers hoor..?

<zover mij bekend heb je twee server hangen bij je leverancier

op je technisch pagina staat: Titanium
Intel P4 2.60 800
1024MB DDR
2x WD800JB
Intel 1Gbit

waar heb je deze hangen?>

- Dit werd geen topic over redundancy, je trapte gelijk af met een hoop dicksize gebrabbel (as usual). Dit topic is gewoon een monoloog waarin jij jezelf zelfvertrouwen aanpraat. (ook weer, as usual).

<dit werd wel degelijk een topic over redundancy, ik wil graag vernemen hoe anderen het opbouwen, wat ze hosten, hoe ze het doen, welke switches en hardware ze gebruiken, zelfvertrouwen aanpraten heb ik niet nodig, dit is voldoende aanwezig dankjewel>

Word toch eens volwassen Beyonder, kijk verder dan je neus lang is en maak geen olifant uit een mug.

<Ik moet natuurlijk een mug uit een olifant maken om je te plezieren niet? wees toch niet zo jaloers, post je eigen redundant uitgevoerde hardware configuratie eens> !!

EN NA FUTUREFLEX SVP ONTOPIC, REDUNDANT UITGEVOERDE PLATFORMS PLEASE GEEN GEZEUR!

Cybafish
13/05/04, 21:59
Titanium hangt gewoon in redbus 2E, waar anders? Overigens maken wij geen gebruik van redundant uitgevoerde hardware, daar kom ik eerlijk voor uit ;) We hebben overal spare parts voor (tot en met de switch) en zijn binnen een half uur ter plaatse mocht er iets kapot gaan.

Mikey
13/05/04, 22:14
Swap: 2096472K av, 29848K used, 2066624K free 278328K cached
Dit is een voorbeeld van een van me eigen servers, linkse waarde geeft de totale swap aan, dit is toch echt een 2Gb partitie.
als ik de used + free bij mekaar optel dan komt daar dezelfde waarde uit als bij de linkse waarde
29848K used + 2066624K free = Swap: 2096472K av

Doe ik nu hetzelfde als bij de swap stats van beyonder dan laat dat gewoon zien dat er maar 512 mb swap is.
Swap: 514040K av, 273160K used, 240880K free 2358020K cached
273160K used + 240880K free = Swap: 514040K av

wie weet het nu beter met zijn big dick size.


Ooh en wat betreft die putty, je kan alleen naar boven scroller ( terug lezen ) putty maakt geen scroll pagina dat naar beneden kan. Bij putty kun je gewoon de tekst selecteren zonder eerst top af te sluiten. Hierbij krijg ik geen command line terug. Is meneer creatief met knippen en plakken :X

ronaldlokers
13/05/04, 22:26
Origineel geplaatst door Mikey


Wel fraai dat ik niet de enigste ben die dit gelijk door had. Wat me ook het meest frapeert dat jij oooo zo goed kan schrijven hoe het moet ( uhum ) en dan gelijk maar even iemand anders erbij haalt om te gaan vergelijken. Waarbij in mijn ogen gelijk wordt gedoeld om degene de grond in te beuken omdat jij er niets van geloofd. Kinderachtig hoor.

bovenstaande gericht aan beyonder, voor degene die de quote misgrijpen :)


Had de TS niet gezegd dat hij niks meer zou zeggen op het forum? Of heb ik net een klap op me kop gehad ofzo, ,zodat ik me vergis :X

Domenico
13/05/04, 22:38
Ok, of jullie gaan weer allemaal ontopic of ik ban maar gelijk een paar users tegelijk. Zo moeilijk is het niet hoor en als jullie het over en weer gezeik willen voortzetten dan pak even de telefoon en bel de ander op.

SERIEUS ONTOPIC!

luser
14/05/04, 00:45
Ik vind deze topic wel nuttig, er zijn hier veel die zitten te dunken over redundantie maar probbly niet eens weten hoe je het opstelt. Verder ben je niets meb webserver redundantie als je leuk op 1 switch bij een coloboer zit.

Ik werk als volgt:
2 x een linux LVS systeem dat functioneert als loadbalancer en waarvan de ene het ip van de andere overneemt als die down gaat.
2 x webserver (of meer, afh hoe belast ze zijn).

Dit is het simpelste en je moet gewoon de content tussen de 2 servers sync'en, je kan natuurlijk ook werken met NAS systemen maar dat pusht de prijs wel ff omhoog.

dotnetjunkie
14/05/04, 01:07
Hoe synchroniseren jullie de NTFS rechten op mappen tussen servers?
Ik dacht aan xcopy over een VPN verbinding, iemand een beter idee?

luser
14/05/04, 01:12
Tot nu toe alleen sync'ende linuxsystemen gedaan ;)

Dentist
14/05/04, 01:30
@Dotnetjunkie: Robocopy, dit is de verbeterde versie van xcopy waarme je ook rechten mee kan copieeren. Tevens kan je er heel mooi alleen gewijzigde files mee copieeren omdat hij een log bijhoudt.

oscar
14/05/04, 01:36
zat te denken aan EMC SAN storage array en Veritas cluster software. :)
alteon loadbalancers en cisco switches.

@Beyonder, NFS gebruiken? heb je wel eens een stale NFS handle gehad, enige wat je dan kan doen is een reboot, plus NFS is niet secure. Er bestaat geen netwerkspecialist die NFS toelaat in zijn netwerk, zelfs niet in zijn backbone.

Wie zij dat swap = 2x geheugen ? geloof dat ik dat na 1995 niet meer gehoord heb, aangezien een disk veel trager is dan memory wordt swappen niet meer aanbevolen. :)

luser
14/05/04, 01:49
mjah NFS run je ALTIJD op een apart LAN wat geen contact heeft naar de buitenwereld (een klein gigE switchje ofzo).

oscar
14/05/04, 02:02
backbone netwerk bedoel je:)

NFS = Network File Sharing
ALTIJD = ? (die ken ik niet)

Ik word een beetje melig geloof ik :)

Wat dacht je van ssh om bestanden te copieren van de een naar de ander als een SAN of shared disks niet mogelijk zijn?

Ik geloof dat ssh vrij secure is.

Wie gebruikt er VIP's? en welke cluster software erbij?

/EDIT:
zelf zat ik te denken aan:

1x server amsterdam
1x server rotterdam

Nieuwe Data + Database dynamische websites elke uur sync met ssh

Cybafish
14/05/04, 11:36
Origineel geplaatst door oscar
zat te denken aan EMC SAN storage array en Veritas cluster software. :)
alteon loadbalancers en cisco switches.

@Beyonder, NFS gebruiken? heb je wel eens een stale NFS handle gehad, enige wat je dan kan doen is een reboot, plus NFS is niet secure. Er bestaat geen netwerkspecialist die NFS toelaat in zijn netwerk, zelfs niet in zijn backbone.

Wie zij dat swap = 2x geheugen ? geloof dat ik dat na 1995 niet meer gehoord heb, aangezien een disk veel trager is dan memory wordt swappen niet meer aanbevolen. :)

Het gaat erom dat hij je hele memory moet kunnen flushen naar je swap, heeft verder niets te maken met de snelheid van je geheugen.

Andrew
14/05/04, 15:37
Origineel geplaatst door Cybafish
en zijn binnen een half uur ter plaatse mocht er iets kapot gaan.


http://www.futureflex.nl/?page=status

Dan zou ik maar snel zijn ;)

Radon
radon.futureflex.nl :: 217.170.20.132

Alles van down...

Beyonder
14/05/04, 15:40
@ oscar: NFS draait hier secure intern, wellicht is het een NAS maar ik ben dan ook niet de 100% technische man hierzo ;)

Swap hoeft idd geen 2 x geheugen te zijn, echter ik geef toe dat dit enigszins aan te raden is. Ik zal eens navragen waarom het 512 is;)

Alteon is een prachtige LB switch, daarmee kun je zeker geen foute keuze maken !! :)

sleeps
14/05/04, 15:41
Origineel geplaatst door Andrew



http://www.futureflex.nl/?page=status

Dan zou ik maar snel zijn ;)

Radon
radon.futureflex.nl :: 217.170.20.132

Alles van down...


na een uurtje nog steeds, maar hij zegt wel niet dat het binnen een half uur opgelost is hé ;)

Mojo jojo
14/05/04, 15:47
Origineel geplaatst door Cybafish
Titanium hangt gewoon in redbus 2E, waar anders? Overigens maken wij geen gebruik van redundant uitgevoerde hardware, daar kom ik eerlijk voor uit ;) We hebben overal spare parts voor (tot en met de switch) en zijn binnen een half uur ter plaatse mocht er iets kapot gaan.

Welke switch?

frankske
14/05/04, 18:08
Mja beyonder, ik heb geen zin om mee te doen aan een dicksizing contest (ik ben een klein netwerkje, dus moet het van technische kennis en kunde hebben en niet van volume), en ook geen zin om alles in detail uit te leggen, er is veel studie in de huidige setup gekropen, ik ga die hier niet even op een kwartier gratis weggeven. Wie serieuze vragen heeft, jullie weten me te vinden...

Cybafish
14/05/04, 18:15
Origineel geplaatst door sleeps



na een uurtje nog steeds, maar hij zegt wel niet dat het binnen een half uur opgelost is hé ;)

Radon staat hier nog op kantoor, die wordt morgenmiddag geplaatst in Redbus. Iedereen die een handtekening wil mag dus morgen naar Redbus 2E komen ;):D

Cybafish
14/05/04, 18:18
Origineel geplaatst door Mojo jojo


Welke switch?

Cisco 2950

masterpe
17/05/04, 12:22
Ik heb het als volgt gedaan.
1 server in Helmond. (lekker dicht in de buurt)
1 server in Hooftdorp.

Server in Helmond is een primaire server (is de fileserver)
Hier draait NFS en een webserver.

Server in Hooftdorp is de secondaire server.
Hier draait alleen de webserver.

Voor het geval dat de server in helmond niet te berijken is draai ik rsync