PDA

Bekijk Volledige Versie : 6TB tot 30TB backup



tjibbe
17/08/13, 10:13
Mijn klant wil graag zijn log video bestanden online bewaren en wil dus zelf geen backup bij houden en dit geheel uitbesteden!. En sporadisch iets terugkijken via streaming video.

Het gaat om 50 tot 500GB video files per maand. Die 5 jaar bewaard moeten worden. De kans op verliezen van deze data moet minimaal zijn. De klant wil precies inzicht hebben hoe dit wordt bereikt.

Uptime van de server is niet heel belangrijk. (98% lijkt me voldoende met een max 36 uur achterelkaar)

Om bandbreedte en tijd te besparen wil hij ook de mogelijkheid om een harde schijf op te sturen om lokaal te kopieren. De voorkeur gaat dan ook uit naar een server die fysiek in Nederland staat.

Het geheel krijgt een html interface met login gemaakt in PHP met een PostgreSQL database.

systemdeveloper
17/08/13, 10:34
En de vraag is? Hoe dit te doen of zo?

tjibbe
17/08/13, 10:43
Ja ik heb alleen ervaring database applicaties maken die werken met php en SQL. Hosting is nooit een probleem hoogstens 25 tot 100MB per project. Nu moet ik een redelijke simpele interface maken. Echter de bestanden zijn huge. Dus was benieuwd hoe dit te doen, de prijzen van online opslag zijn zo verschillend.

tjibbe
17/08/13, 10:46
Dat ik niet goed weet waarvoor ik nu precies een offerte moet aanvragen. Backup of hosting? Of een combinatie die video files bij een backup service onderbrengen en de rest op een standaard shared hosting platform.

tjibbe
17/08/13, 10:47
misschien had ik mijn vraag beter in een andere rubriek kunnen stellen

cfmweb
17/08/13, 11:02
Nou, het is voor anderen ook best interessant om te lezen hoe dit bereikt wordt.
Daarbij, als je nog niet weet wat je zoekt kun je ook geen offerte vragen.

energykind
17/08/13, 11:04
Oplossing: eigen youtube kanaal. Video altijd instellen dat het met 1 aparte link te bekijken is. Die link zet je op zijn site ;) probleem opgelost. Tenzij t natuurlijk 'volwassen' content is....

systemdeveloper
17/08/13, 11:24
Ik ga er vanuit dat die klant straks geen 30TB lokaal heeft staan, wat dus betekent dat je de remote storage ook gebackupped moet hebben. Afhankelijk of je met minimaal 'NIET' bedoelt, heb je dan een retentie van > 1 dag nodig omdat je niet wilt dat je data kwijtraakt als de boel kapot gaat tijdens een backup.
Je hebt een factor 10 verschil zitten (50/500gb) in je benodigde ruimte en je zou gek zijn als je al direct de maximaal benodigde ruimte zou reserveren op je hardware, dus eigenlijk zijn er niet zo gek veel opties.
Ik zou gaan voor 2 machines ('main storage' en backup hiervan), gebaseerd op zfs eventueel met dedupplication. Heb je wel behoorlijk wat ram voor nodig maar dat kost tegenwoordig ook niks meer.
Nu heb je bv 3TB disks, maar er is geen pijl te trekken op hetgeen je over 5 jaar hebt, dus ik zou niet al te zwaar instappen.

Een offerte aanvragen voor hosting heeft weinig zin, denk ik. Om het een beetje betaalbaar te houden spreek je al snel over sata schijven en een hoster die 30 tot 90 TB storage op sata, actief in zijn hostingplatform gebruikt, zul je niet vinden.

Zo'n youtubekanaal lijkt me dan helemaal niet eens zo gek, maar ja... of je dat echt wilt...

tjibbe
17/08/13, 12:03
Youtube heb ik ook naar gekeken, de video zijn echter wel vertrouwelijk en gemiddeld 30 min.

Ik zou denken een online file server(s) met goedkope 3TB schuiven en een wekelijkse backup naar datatapes. Deze server moet binnen 48 uur vervangen/gerepareerd kunnen worden met behulp van de datatapes.

Gekoppeld aan een betrouwbare 99,99% uptime (shared) hosting met php/postgresql. Hierop draait de interface en kan worden ingelogd. En worden eventueel veel gebruikte PDF bestanden ge-cached

Dat sommige bestanden/video streams 48 uur niet bereikbaar zijn, maakt niet zoveel uit. Van lopende projecten zijn er toch meerdere lokale kopie├źn bij de klant. Daarom is een wekelijkse backup ook meer dan genoeg.

Bart L
17/08/13, 13:14
Alles ligt aan budget, wij hebben zelf een 20 TB systeem draaien voor een klant met 1 dag retentie offside locatie.

Draait op een storage node, met een Windows omgeving (komt door klant software), doen een mirror actie in batch elke dag overdag via koppeling naar Diemen.

Opstelling is als volgt ->

R515 10x 3 TB - Amsterdam RAID 50 + 2x 500 GB OS RAID 1
Diemen - QNAP RAID0 - 6x 3 TB

Diemen is een budget keuze.

Nadeel van de setup tot nu toe? fsck (default instelling bij reboot) duurt lang, verder geen probleem.
Voor de rest totaal geen I/O wonder, snel genoeg, maar je merkt dat de H700 met BBU het wel druk heeft als er vol wordt gepompt qua bandbreedte ;)

Deze setup is prima te verdubbelen naar 30-60-120 TB enz ;)

R515 zijn prima betaalbaar op dit moment, ook met raid controller etc.

jos
17/08/13, 13:44
Hi Tjibbe, voor wat voor een soort bedrijf is de opslag? Een video editing bedrijf die alleen maar zwaar materiaal heeft zoals RED Raw?

Kay van Aarssen
17/08/13, 13:52
Ik zou eerder denken aan iets van Synology of self made in een norco case of dergelijke...
Kun je genoeg disken in kwijd en is makkelijk uit te upgraden. Je betaald dan alleen de hardware en colocatie kosten.

tjibbe
17/08/13, 14:34
@kay: Wat voor bedrijven doen colocatie voor Synology etc en bieden ook een backup service hiervoor?

@jos: Het is geen video editing bedrijf, ze voeren werkzaamheden uit om moeilijk bereikbare plaatsen en filmen dit. Wordt niet in RAW formaat opgeslagen, het zijn echter wel ontzettend veel uur wat 5 jaar bewaard moet worden, waar ze sporadisch wat willen terugzien.

Bart L
17/08/13, 15:01
Een backup service aanbieden en ook garanderen voor synology / qnap etc is spannend. Een RSYNC optie kan heel goed, maar is naar mijn mening slecht controleerbaar vooral als er updates wel/niet/soms worden uitgevoerd op die apparaten. Ze doen hun best, maar voor echt hosting vinden wij het in ieder geval niet geschikt.. We hebben wat QNAP (2U) spul staan, en het doet wat het moet doen, maar verwacht niet te veel van die dingen. Wij gebruiken het nu voor backup van een backup.

Ik zou zeggen, plaats een aanbieding vraag in het juiste topic. Zet daar wel het budget bij + backup retentie behoefte, en dan gaan mensen vanzelf komen met de aanbiedingen :lovewht:

t.bloo
17/08/13, 15:07
Zoveel data moet je eigenlijk doen met moosefs, xtreemfs, cephfs of soortgelijk distributed filesysteem. Maar een opstelling met ZFS blijft toch het makkelijkste. ZFS send/receive is een zegen voor off site duplicatie. Je zou kunnen beginnen met een kleine machine voor de frontend en de ZFS storage engine, de disks koppel je met iscsi steeds er bij als het groeit.

Dat repliceer je vervolgens langzaam op een andere plek voor de veiligheid. Tapes zou ik niet meer aan beginnen want dat kost menselijke handelingen en dat is niet alleen duur maar ook storingsgevoelig.

Machine 1 (Dell R210 bijvoorbeeld): scripts, database, ZFS pool met vdevs via iscsi
Machine 2 (Dell R320 bijvoorbeeld): 4 schijven van 3TB om mee te beginnen
Machine 3 (Dell R320 bijvoorbeeld): 4 schijven van 4TB om uit te breiden
etcetera...

Disks zet je bijvoorbeeld in RAIDZ-2 opstelling, dan kun je wat verliezen door defecten. Je blijft externe backups nodig hebben vanwege user error en disasters natuurlijk. Die bouw je natuurlijk soortgelijk op zodat je dat ook kunt blijven uitbreiden. Je kunt dat vrij goedkoop extern repliceren met maar een paar Mbps als er wekelijks maar weinig bij komt.

Kay van Aarssen
17/08/13, 15:09
@tjibbe

Tis hetzelfde als een gewone server natuurlijk voor een colocatie partij.
Wij hebben meerdere synology systemen voor klanten in racks staan. Geen problemen mee.
Er worden backups mee gemaakt en er wordt gebruik gemaakt van cloudstation voor sommige klanten.

Natuurlijk wel de synology rack modellen! Niet de tafel modellen.

t.bloo
17/08/13, 17:15
Voor tafelmodellen heb ik zelf een apart plankje in een rack ingeruimd, dus het kan wel. Maar die dedicated NAS systemen zijn eigenlijk niet goedkoper dan een gewone server. Een 4 bay Synology kost al gauw 450 euro zonder disks, daar heb je ook een 4 bay server voor. Met het voordeel dat je daar meer mee kunt, maar mogelijk ook iets meer elektriciteit gebruikt. Verder moet je opletten met grote RAID5 sets: rebuilden duurt mega lang en is dus risicovol, ZFS is daarvoor een veel beter alternatief.

Voor deze toepassing heb je wel het voordeel dat je geen aaneensluitende storage nodig hebt. Je kunt vanuit het script bepalen op welke storage server nog plek is en daar de file neerzetten. Zou je dus ook losse op zichzelf staande ZFS of NAS systemen voor kunnen gebruiken en met NFS of nog makkelijker SSHFS koppelen.

CharlieRoot
17/08/13, 17:26
Wij doen dit via 3Par of Lefhand modellen. We doen iets soortgelijks voor een klant die verwacht te groeien naar 100TB+.

Dit is echter niet 'webhosting' maar een hele specifieke vraag. Het moet wel schaalbaar blijven!

systemdeveloper
17/08/13, 18:13
Zolang je het hebt over 50 tot 500gb per maand, zou ik gewoon 2 x een 2U server met 12 bays pakken, zfs erop en beginnen met bv. 4 x 3tb disks (al dan niet met 1-2 hotspares). In raid 5 heb je dan al iets van 9TB ruimte. In het gunstigste geval (50gb per maand) heb je daar al genoeg aan. Zoniet, plaats je er over een tijd 4/6 disks bij.
Tegen de tijd dat je die server vol hebt is ie waarschijnlijk toch al afgeschreven en aan vervanging toe.
Directe verbinding tussen de 2 servers zodat je snel de boel kunt overmikken naar de 2de backup en klaar.
Apache + mysql op de bak mikken en je bent al ver klaar.

Je moet alleen een beetje opletten dat je niet van die cheap desktop disks gebruikt. Of die backupbak nu sporadisch gebruikt wordt of net, hij staat wel 24 uur per dag te draaien tenslotte.

golden
17/08/13, 18:52
Ik denk dat elk hosting bedrijf wel wat goeds kan leveren. Wellicht gewoon iets van objectstorage.

IIG is dit gewoon basic storage en niks ingewikkelds. 60 TB afnemen kost ook bijna niks.

Paul Z.
18/08/13, 16:22
Je kan ook kijken naar een dienst als http://www.backblaze.com/ ... Of eventueel een van de dozen die hun gebruiken bouwen: http://blog.backblaze.com/2013/02/20/180tb-of-good-vibrations-storage-pod-3-0/ . Met die pod kan je "klein" beginnen en later disks bijsteken... Snelheid wonders zijn het niet, maar wel erg goedkoop per TB...

Kay van Aarssen
18/08/13, 19:30
Als je die case zelf vol propt dan is het te doen ja.
Ik zal zeker niet kiezen voor backblaze. De upload is erg traag en de download ook.
Althans dat is mijn ervaring. Ik weet niet wat jullie ervaring daarmee is.

frederikbove
18/08/13, 19:38
Iemand ervaring in het bouwen van zo'n Backblaze box? En zo ja wat zijn je ervaringen.

Kay van Aarssen
18/08/13, 19:46
Nou opzicht kun je het gewoon vergelijken met een norco etc. Alleen zitten de schijven hier natuurlijk anders. Je kunt ook gaan voor 2 voedingen etc. En natuurlijk 45 disken + ruimte voor ssd of boot disk. Verder is het gewoon onderdele. Erin en klaar...
Ze zijn wel goed ontworpen maar het nadeel is dat je geen hot swap kunt doen. Dus dan moet de machine of uit of de expanders moeten het aankunnen om hot swap te doen. Dan is het natuurlijk server naar voren trekken disk eruit nieuwe erin en klaar.
Anders zou hij toch echt uit moeten... Dat maakt voor een back-up server misschien niet zoveel uit natuurlijk maar... Hot swap lijkt me beter.

Als het goed is heeft Freak1 op het forum van tweakers.net een soort van backblaze case gehad.

Ik weet alleen niet meer of die hier in zat:

http://gathering.tweakers.net/forum/list_messages/1457031

Of hier in:

http://gathering.tweakers.net/forum/list_messages/1345847

Bart L
18/08/13, 21:23
Leuk speelgoed, zeker, alleen ik zou dat in productie niet voor klanten in willen zetten.

frederikbove
18/08/13, 22:36
Je gaat er al twee moeten zetten met iets van network raid er over. En een snel netwerk om alles gerepliceerd te krijgen

golden
19/08/13, 00:47
Wij hebben er een aantal draaien. Zijn wel mooi maar moet er zeker meerdere hebben. Maar er zijn ook supermicro kasten waar een heleboel 3,5" disks in wilt.

Disks vervangen is echt een enorm rotkarwei. Ik zou het lekker uitbesteden met 30~60 tb. Redt je met gemak voor een paar honderd euro per maand.

Kay van Aarssen
19/08/13, 09:19
Sowieso is het handiger om er meerdere te nemen.
Ik denk zelf ook dat als je voor massa gaat je beter een supermicro case kunt nemen waar je voor en achter disken in kunt gooien.
Dan heb ie ook hot swap.

golden
19/08/13, 09:31
Sowieso is het handiger om er meerdere te nemen.
Ik denk zelf ook dat als je voor massa gaat je beter een supermicro case kunt nemen waar je voor en achter disken in kunt gooien.
Dan heb ie ook hot swap.

Dat bedoel ik. En het verschil in kosten was een stuk lager dan verwacht.

Kay van Aarssen
19/08/13, 09:32
Denk dat je alleen schrikt van de kosten van de case.

Maar als je daarvoor meerdere 2of3 u servers moet nemen moet je ook apart colocatie afnemen... En dat is dan bij 1 of 2 grote cases niet nodig.

frederikbove
19/08/13, 11:10
Welk storage software gebruiken jullie hier voor? Op elke bak ZFS met FreeNAS? En dan repliceren.