Bekijk Volledige Versie : Slim om up te graden?
Hoi,
Ik huur een VPS bij DeziWeb nu met 2GB RAM. Mijn site groeit best wel snel en daarom zitten we nu aan onze max. Althans, de RAM wordt bijna altijd voor minimaal 95% gebruikt.
Ik zit er nu aan te denken om te gaan upgraden naar 3GB RAM, maar ik las net een bericht van iemand dat het heel normaal is voor Linux systemen om alle RAM te gebruiken (ivm caching enzo).
Ik vind het prima als de server zoveel RAM gebruikt als die wilt, als hij maar niet daalt in performance.
De site runt heel snel, behalve op de punten wanneer de meeste gebruikers online zijn. Dan gaat hij denk ik over zijn limiet heen door pieken en dan loopt alles vast. (mysql krijgt table locks waardoor queries blijven opstapelen etc etc)
Bestaat er een mogelijkheid om te zorgen dat Linux niet álles gebruikt, maar maar 80%, zodat er ook ruimte overblijft voor pieken?
Ik zou het namelijk zonde vinden om er straks bij een nieuwe server erachter te komen dat hij exact hetzelfde doet, en dat het gewoon hoort bij Linux.
Met vriendelijke groet,
Wuggles
Linux (zeker in combinatie met bijvoorbeeld DIrectadmin oid) "vreet" bijna al het geheugen meteen op.
Dit is op zich normaal. Zodra je heftig begint te swappen naar de harddisk, dan moet je je zorgen gaan maken. Is dit ook het geval?
Je kunt ook kijken naar tuning van je mysql en apache. Dat helpt ook al een boel.
Yourwebhoster
10/08/11, 20:58
Weet je zeker dat het gebruikt is of dat caching het geheugen gebruikt? Je kan dit met `free -m` controleren.
Zoals de andere al adviseren, kijk eerst even hoeveel cache/buffer de server gebruikt en hoeveel daadwerkelijk gebruikt wordt. Wordt er gebruik gemaakt van swap, zo ja hoeveel wordt er gebruikt. Ga hierna aan de slag met optimalisatie van je mysql (index, correcte query's, ...) eventueel gebruik van mysql cache in het geval je dat niet doet. En in het geval je website zelf nog geen cache gebruikt kun je daar ook mee aan de slag. Want zolang je dit niet zult optimaliseren kan je zoveel mem bij pluggen of upgraden als je wilt maar het resultaat zal hetzelfde blijven.
Om te antwoorden op je andere vraag, ja je kan apache/mysql/... verhinderen om meer ram te gebruiken van bij de start, maar dit zal je wel problemen opleveren wanneer je meer nodig hebt en het dan niet meer beschikbaar is. Of dat je website bvb trager wordt omdat programma eerst vrije ram moet aanspreken om het dan te cache en op te laden, dan wanneer het al in cache zit.
Verder zou ik ook een monitoring programma installeren om te onderzoeken waar de bottleneck precies zit (cpu, ram, hd's, ...), want voor het zelfde geld is de i/o van de hd's niet vlug genoeg om je pieken op te vangen.
Mysql locks hebben meestal te maken met slechte queries, disk io of de mysql instellingen (mem)
Ik gok ook dat het in het verkeerd gebruik van MySQL zal zitten, in combinatie met een traag IO.
Ga even achter die console-toegang aan, wacht op een druk moment, en geef dan het commando
vmstat 1
Laat dat een minuut lopen en post hier even de uitvoer (afbreken met Ctrl-C).
SebastiaanStok
11/08/11, 10:14
Let wel opdat dat als je meer dan 2GB ram hebt je meestal 64bit nodig hebt of PAE ondersteuning in je Kernel ( http://en.wikipedia.org/wiki/Physical_Address_Extension )
Hmm, ik zweer dat ik hierop geantwoord heb.. blijkbaar is mijn post nog niet goedgekeurd?
Bedankt iig iedereen voor het antwoorden, ik ga nu meteen achter de login van m'n console aan.
Hier is de link naar een printscreen van mijn Process view. (http://vfl.ru/i/20110811/006ce9db120f3885cb1646096c539022_1.png)
Dit was van gisteravond en je kan zien dat er dus veel geswapt wordt.. 1 GB ongeveer.. later staat er dat 1.2 GB voor cache gebruikt wordt?
Yourwebhoster
11/08/11, 12:30
Je hebt 1.2GB aan cache, je hebt voldoende geheugen. Je zal het probleem ergens anders moeten zoeken, al aan optimalisatie gedaan?
MySQL optimalisatie heb ik best wat aandacht aan besteedt, maar het probleem is dat mijn spel waar het om gaat best wel groot is en je kan misschien wel begrijpen dat we liever op andere manieren optimaliseren dan dat we elke query gaan nakijken bijvoorbeeld. Het gaat hier om zo'n 1000 verschillende soorten queries in totaal denk ik.
Toch weet ik wel dat echt niet alle queries in orde zijn bij ons.
Ik heb een print screen gemaakt van mijn mysql status, misschien zien jullie daar iets vitaals in?
hier dus :) (http://funkyimg.com/u2/969/400/mysql.png)
Wuggles
Yourwebhoster
11/08/11, 12:58
MySQL optimalisatie heb ik best wat aandacht aan besteedt, maar het probleem is dat mijn spel waar het om gaat best wel groot is en je kan misschien wel begrijpen dat we liever op andere manieren optimaliseren dan dat we elke query gaan nakijken bijvoorbeeld. Het gaat hier om zo'n 1000 verschillende soorten queries in totaal denk ik.
Toch weet ik wel dat echt niet alle queries in orde zijn bij ons.
Ik heb een print screen gemaakt van mijn mysql status, misschien zien jullie daar iets vitaals in?
hier dus :) (http://funkyimg.com/u2/969/400/mysql.png)
Wuggles
Ik heb het niet over het optimaliseren van de queries, maar van mysql zelf. Al http://mysqltuner.pl gedraait?
SebastiaanStok
11/08/11, 13:08
Hij geeft een waarschuwing over index gebruik.
123 GB aan data maakt geen goed gebruik van indexen.
Dat wil niet direct zeggen dat je nu overal index moet gaan gebruiken, maar goed moet kijken welke indexen er zijn of die wel optimaal worden gebruikt.
Maak je gebruik van MyISAM of InoDB?
Hmm, ik zweer dat ik hierop geantwoord heb.. blijkbaar is mijn post nog niet goedgekeurd?
Bedankt iig iedereen voor het antwoorden, ik ga nu meteen achter de login van m'n console aan.
Hier is de link naar een printscreen van mijn Process view. (http://vfl.ru/i/20110811/006ce9db120f3885cb1646096c539022_1.png)
Dit was van gisteravond en je kan zien dat er dus veel geswapt wordt.. 1 GB ongeveer.. later staat er dat 1.2 GB voor cache gebruikt wordt?
Je leest de data verkeerd, je hebt 1GB swap in totaal waarvan maar 67MB in gebruik is. Dit is dus totaal te verwaarlozen, van je 2GB total ram heb je 1,2GB cache die vrij komt als een ander programma het nodig zou hebben. Dus daar zit het probleem ook niet, een upgrade naar 3GB ram zou alleen resulteren in meer gebruik van cache en je initieel probleem niet oplossen.
@Yourwebhoster Ah, mijn excuses. Nee MySQL optimalisatie zelf heb ik nooit heel veel naar gekeken. Wanneer ik weer toegang tot mijn Console heb zal ik dat uitvoeren.
@Rollerscapes Hmm, wat betekent deze 123GB aan data precies? Dit is geen bandwidth oid, dus gebruikt hij dat op de server zelf teveel dan?
@The-BosS Bedankt.. dat scheelt een hoop. Hoe kan ik ervoor zorgen dat ik de data wel goed laat lezen? Wat zit er precies in die cache?
@The-BosS Bedankt.. dat scheelt een hoop. Hoe kan ik ervoor zorgen dat ik de data wel goed laat lezen? Wat zit er precies in die cache?
Dit kan je het beste zien met 'htop' of 'free -m' of andere tools dan de default top. Maar begin dus eerst even met de optimalisatie van je website (mysql, cache, ...), misschien ook handig dat je even vermeld hoeveel connecties (users) per seconde je over de vloer krijgt op piek momenten. Want wie weet is je vps en server indeling gewoon veel te laag voor wat je wilt doen.
Okee, naja, daar heb ik dus weer toegang aan mijn controlpanel voor nodig..
Vannacht is de server er weer uren uit geweest, nu heb ik echt in de apache error log terug kunnen zoeken en de laatste error voor de crash was deze:
[Fri Aug 12 01:52:05 2011] [error] server reached MaxClients setting, consider raising the MaxClients setting
Blijkbaar moet ik dus de MaxClients verhogen, ik moet zeggen dat ik hier verder nog niet van gehoord heb en daar zo meer informatie over ga zoeken. Heeft het verhogen hiervan nog consequenties of hebben jullie andere tips?
Ik zou eerder zoeken wat er precies al je clients opsoepeert, dat zal vermoedelijk een langlopend script zijn.
Hmm okee, zijn er misschien makkelijke tools om snel te vinden welke scripts zo lang lopen? Anders ga ik gewoon even de meest logische dingen langs.
Begin eens met het programma "atop" te installeren en verander in het init script de tijd van 600 seconde in 60 seconde (en even deze daemon herstarten). Als het dan vast is gelopen kun je met "atop -r" makkelijk terugkijken. Je kunt dan om te beginnen al zien of het het aantal processen is, of de disk, of de load, of het geheugen...
Volgens de output van MySQL heb je 1,396 "Slow_queries". Als die worden gelogd dan kan je opzoeken welke queries het langst duren. Je kan in de MySQL configuratie (andere optie in MyPHPAdmin) zien of en waar het slow query log word bewaard.
Verder is aan de output van MySQL ook te zien dat optimalisatie van de MySQL mogelijk loont, d.w.z. het aanpassen van het my.cnf configuratie bestand om bepaalde buffers te vergroten en zo MySQL efficienter te laten werken. Het eerder genoemde MySQL primer (of tuner) script kan hierbij helpen om te suggeren welke waarden je het beste kan aanpassen (vergeet na het bewerken van de MySQL configuratie niet MySQL te herstarten).
De meeste suggesties hier zijn overigens bedoeld om via de command line (via SSH) te worden uitgevoerd trouwens. Ik denk dat je via een control panel niet heel ver komt om het probleem op te lossen.
@t.bloo Hmm, ik denk dat het de processen zijn, ik heb wat dingen gevonden en die heb ik hieronder allemaal beschreven.
@GHDpro Jep, maar ik heb het idee dat die slow queries vooral het gevolg zijn van een probleem dan dat het de oorzaak is. MySQL Tuner gaf inderdaad een aantal waardes aan die ik zou kunnen veranderen, dus daar ga ik straks naar kijken.
De console die ik bedoelde is een java programmaatje op m'n admin panel die verbindt met mijn server via SSH :P
De laatste dagen heb ik zitten monitoren op het moment dat de pieken zijn (00:10 en rond 00:25).
Ik heb gekeken in de cronjoblog, apache error log en heb top zitten monitoren.
Wat ik heb gezien:
Cronjob-log
Aug 15 00:10:01 vps4263 crond[13632]: (root) CMD (echo 'action=tally&value=all' >> /usr/local/directadmin/data/task.queue)
Deze wordt alleen op dat tijdstip uitgevoerd en daarom lijkt het me logisch dat dit er iets mee te maken heeft.
Apache error log
[Mon Aug 15 00:10:15 2011] [notice] SIGHUP received. Attempting to restart
[Mon Aug 15 00:10:18 2011] [warn] NameVirtualHost 193.23.143.136:80 has no VirtualHosts
[Mon Aug 15 00:10:18 2011] [warn] NameVirtualHost 193.23.143.136:443 has no VirtualHosts
[Mon Aug 15 00:10:21 2011] [warn] RSA server certificate CommonName (CN) `localhost' does NOT match server name!?
[Mon Aug 15 00:10:24 2011] [notice] Apache/2.2.17 (Unix) mod_ssl/2.2.17 OpenSSL/0.9.8e-fips-rhel5 DAV/2 PHP/5.2.17 configured -- resuming normal operations
Ik heb van mijn host gehoord dat ik de warnings kan negeren, maar de SIGHUP en de onderste vind ik maar vaag? Lijkt er op dat hij gewoon restart... Ik heb ook een aantal SIGTERMs gezien.
Top
Ik denk dat dit nog het belangrijkst is.
Wat ik rond 00:10 zie is dit:
Het MySQL proces is altijd degene die het meeste CPU en MEM opslurpt, maar "opeens" lijkt die uit te vallen.. hij wordt niet opnieuw gerestart, want ik zie hem verder onderin te lijst, maar dan heeft hij 0% CPU. Ondertussen worden er gigantisch veel apache processen met httpd aangemaakt. Normaal heb ik zo'n 150 processen lopen, maar dan kunnen het er makkelijk 270 worden, waarbij die nieuwe dus allemaal apache-httpd zijn.
Een aantal minuten later neemt dat weer af en pakt de mysql zijn CPU weer en gaat alles weer normaal.
Dit gebeurt elke dag rond 00:10. Het lijkt me dat die cronjob van DirectAdmin er veel mee te maken heeft, maar ik heb niet veel kunnen vinden via google.
Ziet dit er logisch uit en hebben jullie enig idee hoe ik dit kan oplossen?
Als ik mijn statistieken bekijk dan zie ik trouwens ook elke nacht om 00:10 een grote piek (8x de load van normaal ongeveer)
Ik hoop dat ik hiermee genoeg informatie heb gegeven, voor mij is het allemaal te nieuw en al heb ik mijn ideeën durf ik niks te ondernemen voordat er iets gebeurt wat ik niet wil.
Die tally van directadmin geeft op volle servers altijd een flinke load piek, dat is normaal. Wel heb ik die zelf overal op 7 uur gezet en niet om 0:10 uur omdat er nog wel eens iets mis mee wil gaan en ik de problemen dan liever overdag dan 's nachts heb :)
SebastiaanStok
16/08/11, 12:55
http://www.directadmin.com/technotes.html
Zoeken naar: The DirectAdmin Task Queue (dataskq):
@t.bloo Hmm, dat is wel een goed idee inderdaad, omdat er veel Amerikanen op mijn spel spelen is het rond die tijd juist het drukst.
Opzich telt die tally dus alleen maar gebruikte resources, toch?
@Rollerscapes Bedankt! Dat klaart een hoop op.
Nu vraag ik me wel af, deze hoge load hoort misschien zo, maar zijn die fouten bij de apache error log ook normaal? Want dat zorgt ervoor dat het spel down is voor enkele minuten, en soms meer.
Zou dit ook het script kunnen zijn die de MaxClients error oproept?
"[Fri Aug 12 01:52:05 2011] [error] server reached MaxClients setting, consider raising the MaxClients setting"
Dit is echt wel bijna 2 uur later, dus dat lijkt me ook wel weer raar.
Nu vraag ik me wel af, deze hoge load hoort misschien zo, maar zijn die fouten bij de apache error log ook normaal? Want dat zorgt ervoor dat het spel down is voor enkele minuten, en soms meer.
Die fouten bij httpd/apache zijn geen echte fouten, de SIGHUP is normaal, dat wil zeggen dat er een herstart aangevraagd is. De tally kuist de logfiles op van apache en daardoor moet apache herstarten om de nieuwe log files te kunnen gebruiken. Dit is overigens bij elke logrotate die je gebruikt van toepassing, de "no VirtualHosts" kan je inderdaad negeren dit komt omdat er op dat ip nog geen websites (domains, hosts) in gebruik zijn. De localhost fout kan je oplossen door je FQDN te gebruiken in je httpd/apache config.