Onderwerp: Storage server, waar moet ik aan denken?

Hallo allemaal,

Als dit topic hier niet past of mag, dan hoor ik het graag.

Ik heb een samenwerkingsverband met een aantal ICT ZZP'ers waarbij we klantendata op moeten slaan en bewerken.
Momenteel werken we op een (zware) NAS die op locatie staat, maar langzaamaan begint ons initiatief toch wel te groeien en daarom zijn we aan het kijken naar een Storage server die we ergens in een datacenter kunnen hosten. Omdat het wellicht nogal kostbaar is om daarvoor een VPS te huren en de benodigde opslag (meerdere TB's) daaraan te laten koppelen, willen we ook nagaan wat het kost om zelf een Storage server aan te schaffen en die in een datacenter te hangen, zodat de continuïteit gewaarborgd is.

Waar moeten we aan denken bij het opbouwen van een Storage server?
- Rack-mountable chassis
- Voeding (enkel of dubbel?)
- Harddisks (SAS of SATA?)
- Wat voor netwerkkaart(en)?
- Hoeveel geheugen?
- Wat voor CPU('s)?

Kan een storage-server volledig op zichzelf draaien? Dat deze gewoon een eigen OS heeft en je dan volumes op de SAS/SATA harddisks beschikbaar kan stellen, zoals je op bijvoorbeeld een Windows server ook doet?

Of is een storage server eigenlijk niets meer dan een "domme" doos met daarin een hoop harddisks, die wordt aangestuurd door een aparte server?

Bij mijn zoektocht via Google, kom ik voornamelijk allerlei aanbieders tegen van VPS'en, maar eigenlijk niet heel erg veel informatie over wat je nodig hebt om zelf een storage server te bouwen.

Of is het misschien handiger om een NAS te bouwen op basis van FreeNAS oid die we dan hosten in een datacenter?

Alle hulp en informatie is welkom.

Hi! Ik zie niks in je verhaal terug over de raid controller, heb je daar al rekening mee gehouden?

Je kan voor een traditionele storage met raid controller gaan of voor een ceph setup.

Om het simpel te houden hier wat tips voor de traditionele setup. Ceph is heel veel info over te vinden op Google.

CPU’s en RAM is niet heel erg van belang, tenzij je een software raid gaat draaien.

2x storage node met Debian en DRBD onderling (dan spiegel je de servers).

1x proxmox node, hierop maak je per klant een VPS aan met net zoveel virtuele disks als je wil, welke op je storage pool draaien.

Ik zou voor een raid controller gaan die ssd caching ondersteuning heeft. Dan kan je combi maken van disks en ssds.

Zou sowieso afraden spinning disks only te doen.

Intel dc ssds zijn goede keuze voor kwaliteit en duurzaamheid.

De opzet staat of valt met de hoeveelheid actieve diskruimte die je nodig hebt. Je hebt het over meerdere TB. Is dat 2? Is dat 20? Hoeveel losse gebruikers zijn er, alleen jullie toegang of ook externe klanten?

Verder moet je er rekening mee houden dat de verbinding naar de server in het datacenter veel trager zal zijn dan een verbinding lokaal. Je haalt met een datacenter verbinding makkelijk enkele honderden Mbps maar lokaal is tegenwoordig een Gbps al weinig. Als bijvoorbeeld 200 Mbps throughput prima is, dan zou je het volgende kunnen bedenken:

- goede server met redundante voeding in datacenter
- Proxmox hypervisor met setjes SSD in ZFS mirror
- per gebruiker een debian VM met VPN verbinding
- tweede server met rsync backups en snapshots retentie

Dit is een begin, is natuurlijk nog veel groter op te zetten, maar je moet ergens beginnen.

Oorspronkelijk geplaatst door t.bloo

De opzet staat of valt met de hoeveelheid actieve diskruimte die je nodig hebt. Je hebt het over meerdere TB. Is dat 2? Is dat 20? Hoeveel losse gebruikers zijn er, alleen jullie toegang of ook externe klanten?

Verder moet je er rekening mee houden dat de verbinding naar de server in het datacenter veel trager zal zijn dan een verbinding lokaal. Je haalt met een datacenter verbinding makkelijk enkele honderden Mbps maar lokaal is tegenwoordig een Gbps al weinig. Als bijvoorbeeld 200 Mbps throughput prima is, dan zou je het volgende kunnen bedenken:

- goede server met redundante voeding in datacenter
- Proxmox hypervisor met setjes SSD in ZFS mirror
- per gebruiker een debian VM met VPN verbinding
- tweede server met rsync backups en snapshots retentie

Dit is een begin, is natuurlijk nog veel groter op te zetten, maar je moet ergens beginnen.

Hou wel rekening met krachtige CPU en meer ram als je met ZFS aan de gang gaat (!)

Bedankt voor jullie snelle reacties.

Het is echt ter vervanging van de huidige NAS op locatie.
Er zullen geen klanten toegang krijgen, het is puur voor ons eigen team.

Er zal dus geen gebruik worden gemaakt van VPS'en of andere hosting-achtige zaken. (vandaar ook mijn opmerking dat als deze vraag hier niet kan of mag, ik het graag hoor)

Ons team van engineers moet toegang hebben tot deze data en heel misschien een aparte locatie voor klanten om hun data naartoe te uploaden, zodat we daar een standaar plek voor hebben.

Ik zit te denken aan een normale RAID oplossing. Wat is het voordeel voor SSD-cache ondersteuning? Dat de cache wordt verwerkt op de SSD'S en daarna naar normale disks wordt weg geschreven? Of dat er zowel normale disks als SSD's kunnen worden gebruikt?

De hoeveelheid actieve diskruimte is momenteel al 8TB en dat groeit alleen maar met de nieuwe klanten die we krijgen. Vandaar dat ik ook een storage server wil maken waar we de komende tijd makkelijk kunnen uitbreiden met meerdere disks.

Nogmaals, het is echt puur een vervanging voor onze huidige NAS.... niet meer en niet minder.... als een storage server in een datacenter dan niet de juiste oplossing is, dan hoor ik het uiteraard ook graag.... ons team zit steeds meer door heel Nederland verspreid en daarom willen we niet meer afhankelijk zijn van de verbinding op de betreffende locatie, maar voor meer zekerheid gaan en de storage server/NAS onderbrengen in een datacenter.

Dan zou ik voor jezelf om t simpel te houden 1 server met hw raid + ssd caching nemen en er lekker TrueNAS of nextcloud op draaien.

Kan je users en shares aanmaken en kan er een disk stukgaan zonder dataverlies.

Afhankelijk van de size van je files 2x 1gbps of 1x 10gbps uplink.

Je kan dit alles nog achter een VPN draaien, dan moeten de users eerst op de VPN verbinden en kunnen ze dan bijvoorbeeld een netwerk schijf gebruiken.

Helemaal top.... dat maakt het allemaal een heel stuk simpeler inderdaad....

Bedankt voor jullie reacties... we gaan maar eens shoppen denk ik ;-)

Oorspronkelijk geplaatst door jghvdheuvel

we gaan maar eens shoppen denk ik ;-)

Je zou ook kunnen overwegen in het https://www.webhostingtalk.nl/aanbiedingen-gezocht/ gedeelte iets te plaatsen zodat partijen hiervoor aanbiedingen kunnen doen. Je zult begrijpen dat er partijen zijn die groter inkopen en daardoor scherpere prijzen hebben op de hardware en je meteen ook de connectiviteit vanuit het datacenter kunnen leveren.

Niet alle hardware leveranciers hebben nu genoeg voorraad door de chiptekorten, dus je kan wel eens langere levertijden hebben terwijl hostingbedrijven mogelijk nog voorraad hebben.

Tip: denk ook even goed na over backups. Dat is natuurlijk nu ook al iets om rekening mee te houden, maar bij een server in een datacenter is dat ook zeer zeker van belang.

Oorspronkelijk geplaatst door Maximilien

Dan zou ik voor jezelf om t simpel te houden 1 server met hw raid + ssd caching nemen en er lekker TrueNAS of nextcloud op draaien.

TrueNAS heeft geen enkel voordeel met hardware raid, integendeel het is gewoon weg gesmeten geld en resources. Bij TrueNAS ben je beter uit met gewoon domme sas/sata/nvme aansluitingen of een HBA, aangezien je zfs gebruikt en de replication op software niveau gebeurt net zoals het cachen van data.

Wil je je geen zorgen maken over hardware als het toch enkel over een NAS oplossing gaat dan zou ik kijken naar TrueNAS hardware of synology of 45 drives of qnap of ... in plaats van zelf alles in elkaar te steken.

Oorspronkelijk geplaatst door The-BosS

TrueNAS heeft geen enkel voordeel met hardware raid, integendeel het is gewoon weg gesmeten geld en resources. Bij TrueNAS ben je beter uit met gewoon domme sas/sata/nvme aansluitingen of een HBA, aangezien je zfs gebruikt en de replication op software niveau gebeurt net zoals het cachen van data.

Wil je je geen zorgen maken over hardware als het toch enkel over een NAS oplossing gaat dan zou ik kijken naar TrueNAS hardware of synology of 45 drives of qnap of ... in plaats van zelf alles in elkaar te steken.

Ben ik het niet mee eens aangezien ts het met TrueNAS simpel kan beheren tov cli. Dat is ook wat ram / cpu waard.

Oorspronkelijk geplaatst door Maximilien

Ben ik het niet mee eens aangezien ts het met TrueNAS simpel kan beheren tov cli. Dat is ook wat ram / cpu waard.

Ik had het over je comment dat hij hardware raid mist en dat heeft bij TrueNAS geen enkel nut aangezien je zfs gebruikt en dat volledig software based werkt. En de raid controller dus tegenwerkt aangezien zfs zijn werk niet grondig kan doen aangezien de raid controller dan smart status en bit rot doet wat zeer nadelig is bij zfs. Daarom dat ik dus ook aangaf dat je beter bent met losse sata/sas/nvme connecties of een HBA ipv RAID controller.

Overigens heeft TrueNAS zeer mooie appliances waar je je dan een stuk minder zorgen heeft te maken over de zelf in elkaar gestoken hardware, zoals redundante controllers en multipath backplanes die rechtstreeks vanuit IXsystems gesupport zijn. Trouwens synology, qnap en 45 drives storinator (houston, truenas, unraid) hebben ook mooie GUI's. Dus snap totaal jouw antwoord op mijn comment niet.

Als ik het zo lees wil je gewoon "dom" storage hebben. Dan is Ceph en caching technieken allemaal te ingewikkeld.

Belangrijk om te weten is:
- Hoeveel storage wil je initieel en wat is de verwachte groei?
- Is het puur opslaan van data en nooit meer naar kijken, of wordt de data veelvoudig en gelijktijdig opgevraagd?
- Zijn het grote bestanden, of tien/honderdduizenden losse bestanden?
- Via wat voor protocol wil je bestanden uploaden en kunnen benaderen?