Resultaten 1 tot 15 van de 20
Pagina 1 van de 2 1 2 LaatsteLaatste
  1. #1
    1M+ websites op DirectAdmin?
    Bram V.
    487 Berichten
    Ingeschreven
    04/07/08

    Locatie
    Sint-Niklaas

    Post Thanks / Like
    Mentioned
    0 Post(s)
    Tagged
    0 Thread(s)
    0 Berichten zijn liked


    Registrar SIDN: nee
    KvK nummer: nvt
    Ondernemingsnummer: 0899.003.423

    Thread Starter

    Cool 1M+ websites op DirectAdmin?

    1 Miljoen websites achter een DirectAdmin server, zou dit lukken? Wij spelen al enige tijd met de vraag of het mogelijk is een platform te bouwen dat webhosting doet op basis van DirectAdmin, maar wel volledig werkt op het Cloud principe. Niet “Cloud” als sales term, maar volgens het "pets vs cattle" principe. Eenvoudig en moeiteloos instances kunnen bijplaatsen waar nodig zodat het oneindig schaalbaar kan zijn en daardoor HA verkrijgen op de software laag.

    Met dit in het achterhoofd zijn wij gestart met het bedenken van een proefopstelling. Hoewel DirectAdmin niet ontworpen is voor deze toepassingen, bleek het al snel dat de meeste zaken wel realiseerbaar waren. DirectAdmin heeft namelijk de mogelijkheid om voor alle acties in het panel bepaalde pre en post scripts aan te roepen.

    DNS is op zich een van de eenvoudigste onderdelen om schaalbaar te maken. Via een post script ontvangen wij alle updates die er gebeuren aan de DNS instellingen en is het enkel nog een punt van replicatie. Hier werd enkele malen rsync aangeraden wat op zich een mogelijkheid is. Nu leek ons de overhead hiervan iets te groot en lijkt het ons beter om gebruik te maken van een queue (RabbitMQ) om alle slaves een update te bezorgen van de zones.

    Web engine zelf is al iets complexer. Echter zit in de huidige versie van CustomBuild van DirectAdmin de optie om Apache in combinatie van Nginx te gebruiken. Dit maakt alles ineens al een stuk schaalbaarder, echter moeten de configs overal gelijk zijn en de configs de Ips van alle web instances bevatten. Daarnaast moet de webdata overal beschikbaar zijn en liefst ook consistent. De configs kunnen eventueel via rsync opgezet worden of via distributed storage als GlusterFS. De voordelen van rsync is dat wanneer 1 host offline gaat, de configs gewoon beschikbaar zijn op de andere. Met als nadeel dat er gemakkelijk race conditions kunnen ontstaan waarbij configs niet op alle plaatsen dezelfde zijn. GlusterFS daarentegen werkt met locking waardoor dit niet het geval is. GlusterFS lijkt hier daardoor de beste optie. Andere opties zijn GFS2 (zelfde voor en nadelen als GlusterFS) en een NFS storage wat weer een SPOF kan zijn voor de cluster.

    Voor de clustering van een website zien wij 3 belangrijke punten.
    1) De diskruimte van de website zelf. Bij GlusterFS en GFS2 is er de bedenking of de performantie voldoende is. Daarnaast is het niet mogelijk om met quotas te werken bij GlusterFS en dit lijkt ook het geval te zijn bij NFS storage.
    2) Session storage: Sessies zijn kleine bestanden die meestal in de tijdelijke storage (/tmp) van een server staan. Dit is wellicht iets dat iedereen weet, echter iets wat vaak niet voldoende bij stil word gestaan. Een reactie als: “we gooien die op de shared storage en dan zijn die sessies overal beschikbaar” lukt voor een klein platform met weinig bezoekers. Echter is zoiets dodelijk voor de performance van bijvoorbeeld een GlusterFS. Deze zijn namelijk nogal gevoelig aan veel kleine files. Alternatieven hier zijn memcached of mijn favoriet, een redis cluster. Probleem hier is dat ik hier enkele bedenkingen heb naar security toe. Deze sessies mogen natuurlijk niet toegankelijk zijn voor andere klanten.
    3) MySQL is via Galera eenvoudig HA op te zetten. Echter heeft deze opstelling veel impact op de performantie en kan dit wel de onverwachte showstopper zijn voor zeer groot platform als men spreekt over miljoenen websites.


    Mail, HA Directadmin en FTP is momenteel nog out of scope omdat dit geen rechtstreekse impact heeft naar de klanten toe op vlak van bereikbaarheid van hun website. Mail lijkt op zich eenvoudig schaalbaar, al is hier de storage weer de moeilijkste factor.

    Vragen en bedenkingen zijn zeer welkom!



  2. #2
    1M+ websites op DirectAdmin?
    www.xenius.be
    1.506 Berichten
    Ingeschreven
    26/11/11

    Locatie
    Oud-Turnhout

    Post Thanks / Like
    Mentioned
    39 Post(s)
    Tagged
    0 Thread(s)
    73 Berichten zijn liked


    Naam: Steve Vos
    Bedrijf: Xenius
    Functie: Zaakvoerder
    URL: www.xenius.be
    Ondernemingsnummer: 0505928838

    Leuk om mee te spelen, maar waarom zou je dat doen? Het lijkt me juist veel voordelen te hebben om horizontaal te schalen met meerdere DA servers.. Het risico dat er dan iets foutloopt en de impact is dan toch 10-tallen keren kleiner dan met 1 grote machine..

    Dat lijkt mij 1 groot nadeel om dit soort setups niet te maken..
    Xenius.be | Our solutions, our products, your success !

  3. #3
    1M+ websites op DirectAdmin?
    geregistreerd gebruiker
    5.589 Berichten
    Ingeschreven
    20/02/05

    Locatie
    Haaksbergen / Amsterdam

    Post Thanks / Like
    Mentioned
    38 Post(s)
    Tagged
    0 Thread(s)
    168 Berichten zijn liked


    Naam: Mark Scholten
    Bedrijf: SinnerG / Stream Service
    Functie: Systeembeheerder
    URL: www.sinnerg.nl
    Registrar SIDN: ja
    KvK nummer: 34255993

    Een tijdje terug heb ik over clustering van DirectAdmin al een topic geopend en later dit jaar kom ik nog met een vervolg in de vorm van een blogpost. Bedenk wel vooraf wat je er mee op wilt lossen, een miljoen websites met DirectAdmin hebben ook wat andere gevolgen.
    Tools die handig zjn voor ISPs vind je natuurlijk bij Tools 4 ISP.

  4. #4
    1M+ websites op DirectAdmin?
    Bram V.
    487 Berichten
    Ingeschreven
    04/07/08

    Locatie
    Sint-Niklaas

    Post Thanks / Like
    Mentioned
    0 Post(s)
    Tagged
    0 Thread(s)
    0 Berichten zijn liked


    Registrar SIDN: nee
    KvK nummer: nvt
    Ondernemingsnummer: 0899.003.423

    Thread Starter
    @bibawa : De legacy manier van denken is inderdaad voor x000 websites x aantal servers. Dit heeft als voordeel om het risico te spreiden, echter heeft dit als gevolg dat er x aantal SPOFs bijkomen. Is dus de balans zoeken tussen x aantal SPOF's en 1 systeem dat welliswaar meer impact kan veroorzaken, maar daardoor ook anders is opgezet om net die impact te vermijden.
    @Mark17 : Interessant. Zijn net naar die gevolgen dat we op zoek zijn. Wat bedoel je precies met wat je ermee wilt oplossen?

  5. #5
    1M+ websites op DirectAdmin?
    ICT Ready
    179 Berichten
    Ingeschreven
    02/11/10

    Locatie
    Helmond

    Post Thanks / Like
    Mentioned
    1 Post(s)
    Tagged
    0 Thread(s)
    14 Berichten zijn liked


    Registrar SIDN: Nee
    KvK nummer: 63849461
    Ondernemingsnummer: nvt

    Interessant onderwerp. Zelf ook al veel geëxperimenteerd met dit soort oplossingen.

    Ik denk dat de security een probleem kan worden. Zoveel websites ondergebracht op één omgeving...


    Verzonden vanaf mijn iPhone met behulp van webhostingtalk

  6. #6
    1M+ websites op DirectAdmin?
    Bram V.
    487 Berichten
    Ingeschreven
    04/07/08

    Locatie
    Sint-Niklaas

    Post Thanks / Like
    Mentioned
    0 Post(s)
    Tagged
    0 Thread(s)
    0 Berichten zijn liked


    Registrar SIDN: nee
    KvK nummer: nvt
    Ondernemingsnummer: 0899.003.423

    Thread Starter
    Waarom zou security een probleem vormen? Dit lijkt gelijkaardig aan de reactie bibawa. Security complexiteit is even groot voor 10 als voor 10000 klanten of 1M+ klanten. Aan wat voor security problemen denkt u dan? Defacement / Data leakage / ...

  7. #7
    1M+ websites op DirectAdmin?
    geregistreerd gebruiker
    505 Berichten
    Ingeschreven
    26/01/10

    Locatie
    Zierikzee

    Post Thanks / Like
    Mentioned
    11 Post(s)
    Tagged
    0 Thread(s)
    12 Berichten zijn liked


    Naam: Peter
    Bedrijf: WebhostNow
    URL: www.webhostnow.nl
    Registrar SIDN: NEE
    ISPConnect: Lid
    KvK nummer: 20169256

    Ik zit hier met dezelfde wensen en ben mij hier ook erg aan in het verdiepen. Het punt van @BReady zit ik ook mee. Ik heb een keer een DirectAdmin server gehad, waarin het een virus bij een klant was gelukt om uit te breken en andere bestanden te infecteren. Ik moet er niet aan denken dat dit gebeurd op één omgeving met zo'n aantal websites.

    Om die reden ga ik waarschijnlijk het volgende doen: ik zet voor elke service een cluster op aan servers. Voorbeeld: storage. Ik zet ook een aantal DirectAdmin servers op. De storage op die DirectAdmin servers wordt gekoppeld met het storage cluster. Elke DirectAdmin server krijgt zijn eigen volume. Zo geniet ik van de voordelen van de clusters/redundantie en heb ik alsnog de gebruikers verspreidt over verschillende servers, waarbij de servers van elkaar "geïsoleerd" zijn.

  8. #8
    1M+ websites op DirectAdmin?
    Bram V.
    487 Berichten
    Ingeschreven
    04/07/08

    Locatie
    Sint-Niklaas

    Post Thanks / Like
    Mentioned
    0 Post(s)
    Tagged
    0 Thread(s)
    0 Berichten zijn liked


    Registrar SIDN: nee
    KvK nummer: nvt
    Ondernemingsnummer: 0899.003.423

    Thread Starter
    @Peter Bin : Deze uitbraak, dit was wellicht via de webserver zelf (customer scripts)? Is natuurlijk wel mogelijk om meerdere webserver instances te draaien en meerdere verschillende storages te draaien die wel los van elkaar staan. De enige node die toegang moet hebben tot alle storages is dan DirectAdmin en FTP. Zal dan op vlak van Directadmin iets complexer worden (symbolische linken voor elke klant naar hun storage bijvoorbeeld) maar dit heeft dan wel als voordeel dat er iets meer isolatie zit tussen groepen van klanten.

  9. #9
    1M+ websites op DirectAdmin?
    geregistreerd gebruiker
    5.589 Berichten
    Ingeschreven
    20/02/05

    Locatie
    Haaksbergen / Amsterdam

    Post Thanks / Like
    Mentioned
    38 Post(s)
    Tagged
    0 Thread(s)
    168 Berichten zijn liked


    Naam: Mark Scholten
    Bedrijf: SinnerG / Stream Service
    Functie: Systeembeheerder
    URL: www.sinnerg.nl
    Registrar SIDN: ja
    KvK nummer: 34255993

    Welk probleem wil je oplossen met dit clusteren? Bij ons ging het om het verwijderen/verminderen van SPOFs. Dat hebben we gedaan en werkt goed. Daarnaast is updaten naar nieuwere PHP versies een stuk makkelijker geworden voor ons.
    Tools die handig zjn voor ISPs vind je natuurlijk bij Tools 4 ISP.

  10. #10
    1M+ websites op DirectAdmin?
    PingOps BV
    3.941 Berichten
    Ingeschreven
    09/12/05

    Locatie
    Almere

    Post Thanks / Like
    Mentioned
    10 Post(s)
    Tagged
    0 Thread(s)
    76 Berichten zijn liked


    Naam: Ramon Fincken
    Bedrijf: Managed WordPress Hosting / PingOps BV / MijnPress.nl
    Functie: CEO
    URL: www.managedwphosting.nl
    Registrar SIDN: Nee
    KvK nummer: 30262182
    TrustCloud: ramonfincken
    View ramonfincken's profile on LinkedIn

    Citaat Oorspronkelijk geplaatst door Peter Bin Bekijk Berichten
    Ik zit hier met dezelfde wensen en ben mij hier ook erg aan in het verdiepen. Het punt van @BReady zit ik ook mee. Ik heb een keer een DirectAdmin server gehad, waarin het een virus bij een klant was gelukt om uit te breken en andere bestanden te infecteren. Ik moet er niet aan denken dat dit gebeurd op één omgeving met zo'n aantal websites.

    Om die reden ga ik waarschijnlijk het volgende doen: ik zet voor elke service een cluster op aan servers. Voorbeeld: storage. Ik zet ook een aantal DirectAdmin servers op. De storage op die DirectAdmin servers wordt gekoppeld met het storage cluster. Elke DirectAdmin server krijgt zijn eigen volume. Zo geniet ik van de voordelen van de clusters/redundantie en heb ik alsnog de gebruikers verspreidt over verschillende servers, waarbij de servers van elkaar "geïsoleerd" zijn.
    Ging dit toevallig om eenzelfde hostingaccount waar meerdere hoofd-domeinen als pakket in hingen of ging t naar een compleet ander hosting account (andere user dus)
    ManagedWPHosting.nl WordPress hosting, optimalisatie webbouw debugging MijnPress.nl

  11. #11
    1M+ websites op DirectAdmin?
    geregistreerd gebruiker
    505 Berichten
    Ingeschreven
    26/01/10

    Locatie
    Zierikzee

    Post Thanks / Like
    Mentioned
    11 Post(s)
    Tagged
    0 Thread(s)
    12 Berichten zijn liked


    Naam: Peter
    Bedrijf: WebhostNow
    URL: www.webhostnow.nl
    Registrar SIDN: NEE
    ISPConnect: Lid
    KvK nummer: 20169256

    Citaat Oorspronkelijk geplaatst door eXtreme Service Bekijk Berichten
    @Peter Bin : Deze uitbraak, dit was wellicht via de webserver zelf (customer scripts)? Is natuurlijk wel mogelijk om meerdere webserver instances te draaien en meerdere verschillende storages te draaien die wel los van elkaar staan. De enige node die toegang moet hebben tot alle storages is dan DirectAdmin en FTP. Zal dan op vlak van Directadmin iets complexer worden (symbolische linken voor elke klant naar hun storage bijvoorbeeld) maar dit heeft dan wel als voordeel dat er iets meer isolatie zit tussen groepen van klanten.
    Dit was een bestand wat inderdaad via de webserver werd benaderd. Naast DirectAdmin en FTP heeft ook de webserver toegang nodig tot die storage (anders is er natuurlijk niet zoveel om te serveren).

    Citaat Oorspronkelijk geplaatst door Ramon Fincken Bekijk Berichten
    Ging dit toevallig om eenzelfde hostingaccount waar meerdere hoofd-domeinen als pakket in hingen of ging t naar een compleet ander hosting account (andere user dus)
    Dit verspreidde zich naar de gehele server. Het virus wijzigde permissies in de server en verwijderde bestanden die nodig waren om het systeem draaiende te houden.

    Het lijkt zo op een bug/lek of een permissieprobleem, maar aan de hand van een full backup voor het virus, hebben wij geen problemen gevonden.

    Ookal staan permissies etc goed ingesteld, het lijkt mij toch fijn om nog aparte volumes aan te maken, om het verspreiden van problemen te voorkomen. Menselijke fouten zijn er altijd nog.

  12. #12
    1M+ websites op DirectAdmin?
    PingOps BV
    3.941 Berichten
    Ingeschreven
    09/12/05

    Locatie
    Almere

    Post Thanks / Like
    Mentioned
    10 Post(s)
    Tagged
    0 Thread(s)
    76 Berichten zijn liked


    Naam: Ramon Fincken
    Bedrijf: Managed WordPress Hosting / PingOps BV / MijnPress.nl
    Functie: CEO
    URL: www.managedwphosting.nl
    Registrar SIDN: Nee
    KvK nummer: 30262182
    TrustCloud: ramonfincken
    View ramonfincken's profile on LinkedIn

    draaide je users wel als eigen user ipv iets als www-data / apache ?
    maargoed offtopic
    ManagedWPHosting.nl WordPress hosting, optimalisatie webbouw debugging MijnPress.nl

  13. #13
    1M+ websites op DirectAdmin?
    geregistreerd gebruiker
    505 Berichten
    Ingeschreven
    26/01/10

    Locatie
    Zierikzee

    Post Thanks / Like
    Mentioned
    11 Post(s)
    Tagged
    0 Thread(s)
    12 Berichten zijn liked


    Naam: Peter
    Bedrijf: WebhostNow
    URL: www.webhostnow.nl
    Registrar SIDN: NEE
    ISPConnect: Lid
    KvK nummer: 20169256

    Citaat Oorspronkelijk geplaatst door Ramon Fincken Bekijk Berichten
    draaide je users wel als eigen user ipv iets als www-data / apache ?
    maargoed offtopic
    Ja, als eigen user. Was erg vreemd.

    Zal inderdaad weer on topic gaan

  14. #14
    1M+ websites op DirectAdmin?
    Bram V.
    487 Berichten
    Ingeschreven
    04/07/08

    Locatie
    Sint-Niklaas

    Post Thanks / Like
    Mentioned
    0 Post(s)
    Tagged
    0 Thread(s)
    0 Berichten zijn liked


    Registrar SIDN: nee
    KvK nummer: nvt
    Ondernemingsnummer: 0899.003.423

    Thread Starter
    Dus als ik het goed begrijp is er een noodzaak aan wat data segregatie tussen de hosts zelf. Dit kan door middel van verschillende webhostingclusters slechts toegang te geven tot bepaalde storages. Op de DirectAdmin host moeten deze inderdaad wel allemaal beschikbaar zijn, ware het niet dat het security risico daar lager is dan op de webservers.
    Een ander alternatief kan zijn om voor de webserver instances CloudLinux te gebruiken in combinatie met CageFS? Iemand daar ervaring mee?

  15. #15
    1M+ websites op DirectAdmin?
    Programmeur / Hoster
    3.934 Berichten
    Ingeschreven
    20/06/06

    Locatie
    Wijlre

    Post Thanks / Like
    Mentioned
    28 Post(s)
    Tagged
    0 Thread(s)
    647 Berichten zijn liked


    Naam: John Timmer
    Bedrijf: SystemDeveloper.NL
    Functie: Eigenaar
    URL: www.systemdeveloper.nl
    KvK nummer: 14083066
    View johntimmer's profile on LinkedIn

    Dus je wilt straks 1 DA instance de virtual hosts, mailboxen, databases e.d. van 1 miljoen websites laten beheren?

    Heb je al eens getest hoe lang je webservers over een reload gaan doen of dat DA zijn tally wel overleefd (ervan uitgaande dat ie binnen en dag klaar is natuurlijk)? Vergeet niet dat je met 1M sites al 4GB diskspace nodig hebt per webserver om alleen al de virtual host configs te laden.
    Dat levert je resource vretende apache/nginx instances op natuurlijk.

    Plus Da heeft vaak al redelijk moeite met enkele duizenden 'whatever' in een lijstje tonen dus met een miljoen... sterkte.

    Los daarvan wil je waarschijnlijk sowieso een fysiek onderscheid maken tussen bussiness klanten, budget klanten, sla klanten, de 'ddos magneet sites' etc.

    Zelfs als dat technisch allemaal zou gaan werken, dan lijkt me dat een extreeeeeeem slecht plan om ook te doen.
    SystemDeveloper.NL - 64BitsWebhosting.EU : Softwareontwikkeling & Hosting freaks

Pagina 1 van de 2 1 2 LaatsteLaatste

Labels voor dit Bericht

Webhostingtalk.nl

Contact

  • Rokin 113-115
  • 1012 KP, Amsterdam
  • Nederland
  • Contact
© Copyright 2001-2018 Webhostingtalk.nl.
Web Statistics