Onderwerp: Unbreakable storage

Op de recent gehouden webhostingday was ook een stand en presentatie over unbreakable storage. Dat concept sprak mij behoorlijk aan.
Als je dan hoort wat zoiets moet gaan kosten. Tja, dan zeg je niet direct: "Doe maar een setje om te testen".
Vraag me dan ook af of zoiets ook kleinschaliger op te zetten is?
Daar hebben vast al een paar van jullie over nagedacht/geexperimenteerd.
Ik hoor graag?

Vriendelijke groet, Eef

Oorspronkelijk geplaatst door aristo

Op de recent gehouden webhostingday was ook een stand en presentatie over unbreakable storage. Dat concept sprak mij behoorlijk aan.

Stond er ook bij hoe ze het gedaan hadden? Ik was daar namelijk niet.

In principe bestaat er niet zo iets als unbreakable, je kan uitsluitend de risicos verminderen.

Oorspronkelijk geplaatst door vDong

Stond er ook bij hoe ze het gedaan hadden? Ik was daar namelijk niet.

Ja althans een globale uitleg. Zie hier pdf met de plaatjes: http://www.webhostingday.com/downloads/2010/hS1b5.pdf

Vrgr. Eef

Dit soort systemen zijn niet nieuw, maar wel steeds meer actueel. De belangrijkste reden voor andere storage manieren zoals deze is de BER. Dit is de bit-error-rate en die geeft de kans dat er (zomaar) een bit omvalt. Ze noemen het ook wel bit rot. De eerste sheet van de PDF geeft dit allemaal mooi weer.

Het punt is dat de laatste jaren de harde schijven wel groter zijn geworden, maar de kant op bitrot niet lager. Daarom heb je met een 1TB harddisk meer kans op een rotte bit op je schijf dan bij een 1GB drive. Klinkt en is logisch, je hebt meer bits op je schijf dus meer kans op rotte bits op die schijf.

Het probleem daarmee is dat je dus meer kans hebt dat een disk defect raakt en dat je hierdoor met een defecte server zit. De kans op een defecte server wordt dus groter door het gebruik van grotere disks. En dan komt het volgende probleem: dat de kans dat er bij het rebuilden van een RAID set iets mis gaat ook groter is omdat deze disken groter zijn.

Samenvatting: 1) meer kans op uitval van een disk omdat deze groter is. 2) meer kans op een storing bij het vervangen van de disk.

De hier gepresenteerde oplossing is een van de vele mogelijke vervangers hiervoor. Maar merk op dat bitrot hierbij nog steeds voorkomt met dit systeem en dus (net als RAID) niet unbreakable is.

Die kansberekeningen waren helder. En met de aanpak van dit bedrijf zou dat aanmerkelijk gunstiger uitpakken. Een setje van 4 x 2,5 TB zou echter al meer dan 50.000 gaan kosten. Iets boven mijn begroting :-)
Vandaar dat ik me afvraag of dit soort oplossingen er ook kleinschaliger zijn.
Met name omdat ik begrijp dat de clou bestaat uit het gericht wegschrijven van datablocks. Performance haalt men uit gebruik van SSD-schijven voor caching.
Dus ben benieuwd of er ook kleinschalige=betaalbaardere oplossingen zijn.

Vr.gr. Eef

Het doet me heel erg denken aan een quickpar software oplossing maar dan in een appliance.

Ik heb even wat informatie over Quickpar opgezocht. Jazeker het doet er wel aan denken. Bijde uitleg die gegeven werd over unbreakable storage werd ongeveer het volgende verteld:
- Het algoritme knipt de data in stukken.
- Deze wordt slim herrekend en verdeeld over alle beschikbare schijven en wel zodanig dat ontbrekende stukken terugberekend kunnen worden. Als het bijvoorbeeld over 16 stukken verdeeld is, heeft het aan 6 of 8 stukken genoeg om alles terug te halen. Ze maakten de vergelijking met een sudoku puzzle. Daar heb je immers ook maar een beetje informatie nodig om alles terug te halen.
- Gevolg is dat het systeem ook niet hoeft te wachten tot alle 16 delen er zijn, maar gewoon met de snelste delen werkt. De overige hebben dan de rol van "archivering" en zijn alleen nodig als er een probleem is.
- Verder blijkt met dit berekenen ook direct dat één van de 16 (die 16 is een voorbeeld, kunnen ook meer of minder schijven zijn) corrupt is. Die wordt dan uitgeschakeld en alle informatie van die ene schijf wordt teruggerekend en verdeeld over de overige 15 schijven.
Het lijkt dus veel op een RAID systeem.
In de discussie had iemand erover dat dit al lang bestond bij één van de linux filesystemen, maar ik herinner me niet meer welke dat was.

Vr.gr. Eef

Oorspronkelijk geplaatst door aristo

In de discussie had iemand erover dat dit al lang bestond bij één van de linux filesystemen, maar ik herinner me niet meer welke dat was.

Vr.gr. Eef

Die zal het over ZFS of Btrfs hebben

[ame]http://en.wikipedia.org/wiki/ZFS[/ame]
[ame]http://en.wikipedia.org/wiki/Btrfs[/ame]

Of het net zo geavanceerd is weet ik niet.

ZFS en Btrfs zijn beide zéér geavanceerde systemen die je inhouse niet zo maar ontwikkeld.

Ze zullen hier waarschijnlijk intern een aantal OS systemen gebruiken.

Maar Open Source zijn er ook al prachtige zaken, al zijn ze vaak een stukje complexer.

Hoi Wido,

Ik begrijp dat ze er behoorlijk wat ontwikkeltijd in hebben zitten. Maar denk ook wel dat ze zo'n Zfs of btrfs als basis gebruikt hebben.
Blijft nog de vraag of zoiets ook ontwikkeld is (betaalbaar ontwikkeld kan worden) voor kleinschaliger systemen.

Vrgr Eef

Over hoe veel opslag praten we? Als je een paar TB wil, kan je dan niet beter aan de slag gaan met DRBD (en checksumming), daar onder iets van RAID-6(0) en een HA setup.

Maar ik zou eerder naar Sun's Unified storage gaan kijken met ZFS, dat lijkt mij wat robuuster.

OK verleg ik mijn studie die kant op. Bedankt voor de tip.
Vrgr Eef