Onderwerp: Crisis.nl: nieuwe site in de maak

Er komt veel bij kijken, maar voor 8000 euro per maand is het echt geen onmogelijke opgave. Varnish is hier al talloze keren genoemd en ik denk dat dit in deze situatie een prima oplossing is. Of ik me vingers eraan zou branden is misschien en tweede.

Oorspronkelijk geplaatst door Randy

Ik denk dat weinig partijen zich hier snel de handen aan branden. Hosting voor 8.000 per maand lijkt veel maar is het beslist niet. Slechts 10-20% van je kosten gaat in bandbreedte, hardware en licenties zitten bij dergelijke projecten. Je moet je gehele infra bouwen op de te verwachten piekbelasting met wat bijkomende overhead. Infra die in 99,5% van de tijd niets staat te doen, maar waarvoor je wel moet inkopen.

Voor de grotere partijen is dat toch peanuts. Wat moet je daar tegenwoordig nog extra voor inkopen? Vaak is de hardware er al en zijn de omgevingen klaar om snel op te schalen. Ook op het vlak van technische know how zit het in veel gevallen wel snor.

Oorspronkelijk geplaatst door getUP

Voor de grotere partijen is dat toch peanuts. Wat moet je daar tegenwoordig nog extra voor inkopen? Vaak is de hardware er al en zijn de omgevingen klaar om snel op te schalen. Ook op het vlak van technische know how zit het in veel gevallen wel snor.

De kale hosting techniek voor een nogal statische site die een heel hoge belasting aan kan is inderdaad ook goed doenbaar, en hoeft echt niet heel duur te zijn.
Wel netjes engineeren, verstand van zaken hebben, maar zeer zeker goed te doen.

De achterliggende requirements voor crisis.nl kun je deels raden, en deels ook afleiden uit wat tussen de regels door te lezen was toen het misging met site rondom de Moerdijkbrand.
Als je daarover denkt wordt het totale plaatje opeens fors complex en foutgevoelig, en als er in die requirements geen dingen veranderd zijn helpen de hier voorgestelde hosting techniek oplossingen niet zo heel veel om 'het product crisis.nl' te verbeteren.

Ach 8k/mnd wordt nu betaald. Diegene die het mag uitvoeren en 25k/mnd rekent krijgt dat ook betaald.

Hey Alain, kun je iets meer vertellen over de opzet van www.crisis2.nl ?

Een Almelo's ICT-bedrijf heeft aangetoond dat de overheidssite Crisis.nl veel te duur is door zelf een voor een fractie van het bedrag een betere site te ontwikkelen.
Crisis.nl heeft ongeveer 500.000 euro gekost, een schijntje op de Rijksbegroting, maar een enorm bedrag voor de ontwikkeling van een website. Zeker als deze website niet functioneert. Bij elke crisis, zoals bijvoorbeeld bij de brand in Moerdijk, werd de website volledig onbereikbaar door capaciteitstekort. Inmiddels heeft het Ministerie van Veiligheid en Justitie al aangegeven nog meer geld beschikbaar te stellen voor het project.

Het ICT-bedrijf Shock Media heeft als protest tegen de enorm hoog opgelopen kosten van Crisis.nl in enkele dagen tijd een alternatief online gezet: www.crisis2.nl. Deze website is getest met meer dan twee miljoen bezoekers per minuut. De kosten van dit alternatief zijn ongeveer 75 procent lager dan de bekritiseerde overheidswebsite terwijl de capaciteit vele malen hoger is.

Directeur van Shock Media Alain Gotz benadrukt dat www.crisis2.nl weliswaar veel beter is dan de overheidswebsite, maar niet onfeilbaar. ''Wij hebben www.crisis2.nl als protest opgezet om te bewijzen dat het ten eerste veel goedkoper kan en ten tweede veel beter. We hebben echter geen behoefte om verder bedrijfsbudget hieraan te spenderen en capaciteit verder uit te breiden. In ieder geval niet zolang de overheid ervoor kiest om absurde bedragen te betalen aan partijen die al jaren lang weten te falen in de primaire taak waarvoor ze zijn ingeschakeld''.

Lighttpd (cluster ?) en het juist handelen van Etags in de header.

En de boodschap aan asp4all moge duidelijk zijn:

In ieder geval niet zolang de overheid ervoor kiest om absurde bedragen te betalen aan partijen die al jaren lang weten te falen in de primaire taak waarvoor ze zijn ingeschakeld".

Ik denk dat de boodschap aan ASP4All ook eerlijk is, ze falen ook gewoon keihard in het technisch realiseren van een aantal zaken.

Verder is de 500k die aan crisis.nl is uitgegeven ook een belachelijk bedrag, maar hier zal wel weer een groot deel vriendjes politiek omheen zitten, zo simpel is het

ASP4All is een gecertificeerde hoster voor overheids websites en kan daardoor bizarre bedragen vragen...

Alain is vrij druk vandaag, dus ik beantwoord het even namens hem.

Er was eigenlijk op bijna alle punten optimalisatie mogelijk. De 'echte' crisis.nl draait, als ik de headers mag geloven, op een Squid proxy icm Apache backends. Dit is relatief inefficiënt. Daarnaast is de pagina gewoon veel te groot. Leuk dat er plaatjes en dergelijken in staan, maar in principe is het niet nodig. Wij zijn van mening dat de informatievoorziening voorrang heeft op het fancy plaatjes.

Qua hardware/software hebben we het als volgt aangepakt:
* Een load balancer op basis van HAProxy (zeer efficiënte load balancer software, heeft per 60.000 connecties ook maar 1 GB RAM nodig), op een fysieke server.
* Op ons virtualisatiecluster draaien lighttpd backends, welke we gewoon kunnen toevoegen.
* Heartbeat opstelling: een virtuele server neemt de load balancer over, mocht dat fysieke systeem uitvallen (dit is puur als test, voor een live opstelling kan worden overwogen om een extra fysieke server als standby in te zetten).
* Mocht er een lighttpd server (tijdelijk) uitvallen, dan wordt dit door HAProxy opgevangen.

Voor de website hebben we volgende optimalisaties gedaan:
* Geen plaatjes (behalve dan even de pagina met uitleg en een twitter ding, maar dat zou bij een echte crisis.nl achterwege worden gelaten).
* Minify'en van de HTML/CSS, zodat minder bandbreedte nodig is.

Uiteraard is het wat meer werk dan dit. Bij zoveel connecties loop je natuurlijk tegen limieten aan die je normaal gesproken bijna niet tegenkomt. Denk bijv. aan dingen als een default limiet in nf conntrack, als je iptables stateful gebruikt. En het testen heeft veel tijd gekost, want dat is minstens zo belangrijk.

Mooie van haproxy is dat je ook nog een check kan doen en dat op moment de check niet meer aan de opgestelde criteria voldoet de server uit de pool wordt geschoven of de weight ervan aangepast wordt. Je zou zelfs automatisch kunnen gaan schalen op moment de load breed te hoog wordt, en via pxe extra instances op kunnen starten