PDA

Bekijk Volledige Versie : Openstack storage voor VM's?



CharlieRoot
26/11/14, 17:58
Allen,

We zijn op dit moment ons storage platform aan het herzien. We hebben een wildgroei van verschillende machines staan en willen terug naar de basis. Het moet schaalbaar zijn, stabiel, en natuurlijk betrouwbaar. We zijn nu op het idee gekomen om eens te kijken naar Openstack. We zoeken *puur* storage, dus niet allerlei handige tools om virtuele machines uit te rollen en zo voorts, dit hebben we al.

Heeft er iemand ervaring met de storage kant van openstack of alternatieven?

Het idee is; Machines (servers) vol sturen met SSD/SAS drives voor hoge I/O in combinatie met enkele servers S-ATA 7200rpm en zo een cluster opbouwen van nodes. Dit schaalbaar over drie datacenter locaties.

Ik ben benieuwd naar ervaringen!

Boskoop
26/11/14, 21:06
Wij gebruiken freenas, en gebruik alstublieft enterprise ssd's :)

24x7hosting
26/11/14, 21:28
Zou ook voor ZFS gaan en liever zonder gui zoals Freenas. Immers is het enkel voor simpele iSCSI/NFS/Samba exports en dat gaat prima via commandline.

Vol gooien met disks en externe SAS voor extra JBODs (toekomstige uitbreidingen). En een SSD cache pool (meerdere SSDs).

Snapshots aan voor replicatie/backups en klaar.

Sent from my GT-I9505 using webhostingtalk mobile app

SF-Jeroen
26/11/14, 22:56
Ik zou voor Ceph gaan. Elke hypervisor volstouwen met een set NL-SAS disks en een PCIE SSD als cache. Meestal kies je voor N+2 redundancy van je data, maar lokale RAID is niet meer nodig, Ceph regelt dat zelf.

Yourwebhoster
27/11/14, 09:12
Behalve het type storage lijkt het me ook interessant om de juiste netwerk apparatuur er bij te kiezen. Immers is dat een deel van het hele storage verhaal en daar kan je ook veel kanten op en zeker als je het over verschillende datacenters wilt uitbouwen.

CharlieRoot
27/11/14, 09:18
Behalve het type storage lijkt het me ook interessant om de juiste netwerk apparatuur er bij te kiezen. Immers is dat een deel van het hele storage verhaal en daar kan je ook veel kanten op en zeker als je het over verschillende datacenters wilt uitbouwen.

Het netwerk bestaat al. We hebben een 8Gb FC netwerk en een 10Gbit storage/iScsi netwerk. Dus hier zal de bottleneck niet zitten. We willen echter nu overstappen naar een nieuw storage model waarbij we niet meer van één "vendor" afhangen en steeds op supportcontracten moeten leunen.


Zou ook voor ZFS gaan en liever zonder gui zoals Freenas. Immers is het enkel voor simpele iSCSI/NFS/Samba exports en dat gaat prima via commandline.

Vol gooien met disks en externe SAS voor extra JBODs (toekomstige uitbreidingen). En een SSD cache pool (meerdere SSDs).

Snapshots aan voor replicatie/backups en klaar.

Sent from my GT-I9505 using webhostingtalk mobile app

Werkt ZFS ook goed samen met Windows/Hyper-V ? Het moet wel breed in te zetten zijn.

24x7hosting
27/11/14, 10:40
Ja je kan iSCI mounts maken en daardoor kan je alle tools gebruiken. NFS zou weer wat makkelijker zijn maar is Linux gebaseerd en kan je beter combineren met vmware, xen of kvm.

Wij gebruiken KVM (Proxmox) op zo'n ZFS server.

Sent from my GT-I9505 using webhostingtalk mobile app

CharlieRoot
27/11/14, 10:47
Ja je kan iSCI mounts maken en daardoor kan je alle tools gebruiken. NFS zou weer wat makkelijker zijn maar is Linux gebaseerd en kan je beter combineren met vmware, xen of kvm.

Wij gebruiken KVM (Proxmox) op zo'n ZFS server.

Sent from my GT-I9505 using webhostingtalk mobile app

Ik zou het liefst Fiber Channel gebruiken. Ik kan zo snel op Google niet vinden of dit ook een mogelijkheid binnen ZFS is.

CharlieRoot
27/11/14, 11:04
Ja je kan iSCI mounts maken en daardoor kan je alle tools gebruiken. NFS zou weer wat makkelijker zijn maar is Linux gebaseerd en kan je beter combineren met vmware, xen of kvm.

Wij gebruiken KVM (Proxmox) op zo'n ZFS server.

Sent from my GT-I9505 using webhostingtalk mobile app

Ik zie dat ZFS is beperkt tot één node, geen cluster setup. Dan moet je third-party tools gebruiken. Dus dit vind ik niet de mooiste oplossing.

24x7hosting
27/11/14, 18:51
Fiber channel kan ook en distributies zoals Nexenta en FreeNAS (betaalde versies) bieden live replication en failover.

Zelf zetten wij GlusterFS in op een dataset van ZFS, dan heb je ook een replica over 2 storage nodes met alle voordelen die GlusterFS biedt.

ZFS is geen besturingsysteem, het draait gewoon op Linix en FreeBSD. Die ondersteunen ook fiber aansluitingen.

Sent from my GT-I9505 using webhostingtalk mobile app

CharlieRoot
04/12/14, 15:47
Fiber channel kan ook en distributies zoals Nexenta en FreeNAS (betaalde versies) bieden live replication en failover.

Zelf zetten wij GlusterFS in op een dataset van ZFS, dan heb je ook een replica over 2 storage nodes met alle voordelen die GlusterFS biedt.

ZFS is geen besturingsysteem, het draait gewoon op Linix en FreeBSD. Die ondersteunen ook fiber aansluitingen.

Sent from my GT-I9505 using webhostingtalk mobile app


We zijn momenteel aan het testen met een configuratie van Openstack en Ceph. Bevalt bijzonder goed. Enige nadeel is dat je niet direct iscsi/fc luns kan maken via de web interface van Openstack.