Server werkzaamheden en uitbreidingen

Morgen zal er geklust gaan worden aan mailserver Adonis. Naar aanleiding van de problemen van vorige week is besloten het filesysteem om te zetten van Ext3 naar ReiserFS. Om dit makkelijker te maken zal een nieuwe 300 GB harde schijf worden geïnstalleerd.
Verder is geconstateerd dat het geheugengebruik regelmatig tegen de 800 MB van de beschikbare 1024 zit. Om daar wat meer ruimte te scheppen zal het intern geheugen worden uitgebreid naar 3 GB. E.e.a. zal enige downtime voor de mailserver tot gevolg hebben, maar we verwachten niets ernstigs.

Verder zal fileserver Atlas binnenkort vervangen worden door twee aparte machines. De ene zal als dedicated search-machine gaan fungeren, terwijl de andere de fileserver-taken op zich zal nemen. De configuraties zijn als volgt:

			Fileserver		Search-server
	Rackmount		Melrow QX312S 3U		Melrow QX312S 3U
	Processoren		2 x Intel Xeon 3.4/800/1M		2 x Intel Xeon 3.8/800/2M
	Geheugen		2 x 2 GB Infineon ECC Reg PC3200		4 x 2 GB Infineon ECC Reg PC3200
	I/O Controller		Areca ARC-1130 12-port		Areca ARC-1130 12-port
	Storage		8 x Western Digital Raptor 74 GB		8 x Western Digital Raptor 74 GB
	Powersupply		2+1 Redundant 650 Watt		2+1 Redundant 650 Watt

Met het groeien van de search-DB stijgt ook de belasting voor de server, met name voor de I/O-array. Atlas beschikt met 36 GB 10.000 toeren SCSI-disks niet direct over de vlotste setup die beschikbaar is, en ook de 2.8 GHz Xeon-processoren zijn niet meer de jongste. De 3.8 GHz Xeon 'Irwindale'-processoren met 2 MB L2-cache zijn nog niet eens door Intel geïntroduceerd en daarmee feitelijk het snelste wat er op het Xeon-platform te krijgen is. Om zoveel mogelijk van de search-DB te kunnen cachen wordt de server voorzien van 8 GB intern geheugen. In de toekomst kan dit nog worden uitgebreid naar 12 GB.

Voor de storage hebben we met name vanwege de gunstige prijsstelling gekozen voor de Western Digital Raptor. Met een prijs van circa 150 euro exclusief BTW voor de 74 Gb versie is deze SATA schijf drie maal zo goedkoop als 15.000 toeren SCSI-schijven met dezelfde opslagcapaciteit. Ten opzichte van schijven die op 10.000 toeren draaien is het prijsvoordeel ook nog altijd zo'n 50%.
Uit eigen tests blijkt dat een RAID-configuratie van Raptors aanzienlijk sneller én voordeliger is dan een qua opslagruimte gelijke SCSI-setup. Verder zijn eventueel defecte schijven veel goedkoper te vervangen. Met een RAID-5 configuratie van 6 schijven inclusief een hotspare ontstaat een opslagcapacititeit van bijna 300 GB, twee maal zo veel als Atlas nu ter beschikking heeft.
Areca biedt met de 11xx-serie op dit moment de snelste SATA-RAID-controller op de markt. Het is dan ook logisch dat de 12-poorts ARC-1130 een plekje zal vinden in onze servers.

De fileserver beschikt over een vrijwel gelijke configuratie. Omdat minder processorpower nodig is volstaat in dit geval de 3.4 GHz Xeon-processor, en tevens zal de vernieuwde Atlas het met de helft aan geheugen moeten doen. In totaal is met deze twee nieuwe servers een investering van circa € 13.000 gemoeid.

Update

Inmiddels zijn beide machines gearriveerd op het Tweakers-hoofdkwartier en in het rek gehangen. De komende dagen zal e.e.a. verder geconfigureerd en getest gaan worden. Kleine kink in de kabel is dat van de 3.4 GHz-Xeon één van de drie voedingen defect is. Nu draaien deze servers normaliter op twee voedingen, maar als er eentje defect is produceren de machines een zodanig hinderlijke pieptoon dat ze maar beter uit kunnen blijven Voor een vervangende voeding wordt zo snel mogelijk gezorgd. In de tussentijd zullen er wat tests gedraaid worden om het prestatieniveau van de nieuwe Irwindale Xeon's te vergelijken met de oudere Nocona's en AMD's Opteron.

Reacties (33)

[Daniel]

Het grootste probleem met dat Google-apparaat is dat het maar een beperkt aantal documenten kan indexeren, tenminste, als je er niet compleet op wilt leeglopen.

De mini ondersteund maximaal 100.000 documenten. Voor de frontpage met een kleine 40.000 nieuwspostings, 10.000 meukpostings en enkele duizenden andere documenten voldoet dat nog wel, voor het forum met ongeveer een miljoen topics is het een groter probleem. Dan kom je op de Enterprise-oplossingen uit die beginnen bij 30.000 euro.

Nu kunnen we wel zoals Anand kunstgrepen gaan toepassen maar zoveel goedkoper is het dan ook weer niet.

[ripexx]

Even een andere vraag, waarom wordt er gekzoen voor een Xeon en iet voor het opteron platform. Want de overige database servers beschikken wel over een opteron platform?

[Daniel]

Vrij eenvoudig, we konden voor deze xeon's een betere deal krijgen

[ripexx]

Dat doen jullie dan goed

[ACM]

Voor zover ik weet is het bovendien best lastig om rechtenchecks op documenten in Google's appliances in te bouwen. En is het maar de vraag of je kan filteren op "topic status", "topic starter" en dat soort parameters.
Wellicht dat Google daar wel mogelijkheden voor biedt in hun duurdere appliances, maar de mini leek daar uit de review van Anandtech niet echt geschikt voor te zijn.
En zoals Daniel al aangeeft, de mini accepteert sowieso te weinig documenten.

[MAZZA]

Is Was een google server zoals ze die ook bij anandtech hebben niet interessant?

http://www.anandtech.com/IT/showdoc.aspx?i=2523

[TeeDee]

Volgens mij gaan die Google Mini's maar tot 100.000 documenten. Nu weet ik niet 100% zeker hoe dat met dynamische data gaat, maar als ik het artikel op Anandtech goed begrepen hebt, is 1 dynamische pagina 1 document.

[Verwijderd]

En het belangrijkste ontbreekt Hoe gaat de nieuwe server heten?

[moto-moi]

Ga ik morgen aan Roelant vragen , da's onze Griekse god-namen-vinder, al ziet Roelant liever dat ik '-namen-vinder' van die titel weglaat geloof ik

[Luxx]

Dat moet wel "Amachania" worden, een griekse godin voor de hulpeloosheid die de search gaat doen, beter kan het bijna niet. Verder is ze grieks, en begint ze met een A.... dus, nouja, het zal wel een andere worden dan:p

[moto-moi]

Dat moet wel "Amachania" worden, een griekse godin voor de hulpeloosheid die de search gaat doen, beter kan het bijna niet.

Als ik zoek kom ik vaker verwijzingen tegen dat het een gewone demoon was.
Dus ik gok dat het inderdaad een (andere) god(in) gaat worden Gelukkig zijn er nog genoeg over

[BlackIce]

En wanneer komen de beschuiten met muisjes?

[DavidK]

In het verleden kwam het nog wel eens voor dat er onderdelen gesponsord werden door (diverse) bedrijven. Waarom gebeurt dit niet meer?

[jwpmzijl]

Er is niemand die zegt dat er niet gesponsord wordt en is ook niemand die zegt dat er wel gesponsord wordt.
Maar ik zou mij zo voor kunnen stellen dat de Areca's tegen vriendenprijs geleverd worden. Dit omdat Femme in het begin van dit jaar deze kaarten met zijn onovertroffen benchmarks wereldwijd op de kaart heeft gezet.

[Daniel]

Het is prettiger om de spullen waar je van afhankelijk bent volledig in eigen bezit te hebben en aan niemand verantwoording verschuldigd te zijn. Sponsors willen toch altijd wat terug

[jurri@n]

Hoera, weer eens een artikel over het werk achter de schermen van Tweakers.net! Vroeger zag je dit bijna iedere maand, maar nu was het al weer behoorlijk lang geleden dat we iets hoorden over het serverpark.

Welk merk/type moederbord gaat er eigelijk gebruikt worden? Dit mis ik eigenlijk in het lijstje met de specs.

[Jesse]

Et is een barebone, uit de specs ervan kan je misschien wel opmaken wat voor moederbord het is: http://melrow.nl/art/qx312s.htm

[Daniel]

Gezien de specs vermoed ik dat het een Intel® Server Board SE7520BD2 is

[djluc]

Complimenten dat jullie zo actief reageren op de problemen van de afgelopen tijd!

Jullie gaan voor de grote en krachtige servers (zeg maar enorm krachtig met 8GB geheugen e.d.). Hebben jullie ook gekeken naar mogelijkheden om meerdere goedkope servers te kopen? Een beetje zoals Google doet?

[the_stickie]

het probleme met meerdere servers zetten is dat je meerdere punten hebt die fout kunnen gaan. Dat is niet kritisch als je een failover systeem hebt (zoals google er een heeft), -anders betekent meer servers=meer downtime
Daarnaast moet je het werk verdelen. dat gebeurt niet uit zichzelf. Dus daar heb je ook weer sofwtare of hardware voor nodig, die ook behoorlijk prijzig is. Ook moet de database zelf mischien redundant worden uitgevoerd...

mij lijkt het dat zolang je 1 machine het werk kan laten doen, je best 1 machine dat werk laat doen (en natuurlijk voor backup en spareparts zorgt )

[Ritch]

het probleme met meerdere servers zetten is dat je meerdere punten hebt die fout kunnen gaan.

Dat is niet een probleem maar een voordeel. Als je 10 taken over 10 servers verdeelt en er valt 1 server uit kun je die ene taak vast wel (tijdelijk) ergens anders onderbrengen. Als je alles op 1 server draait heb je een single point of failure, oftewel als die kapot gaat heb je nix meer.

[moto-moi]

Dat is niet een probleem maar een voordeel. Als je 10 taken over 10 servers verdeelt en er valt 1 server uit kun je die ene taak vast wel (tijdelijk) ergens anders onderbrengen. Als je alles op 1 server draait heb je een single point of failure, oftewel als die kapot gaat heb je nix meer.

Klopt als een bus, daarom gaan we Atlas ook opsplitsen in 2 ongeveer gelijkwaardige machines.

Uiteraard kun je de search, net zoals webservers opsplitsen, maar je hebt er geen winst aan, in het geval van webservers kun je dus met mindere hardwareconfigs toe, terwijl de search een aantal gelijkwaardige machines nodig zou hebben. Vergeet niet dat de omega search heel erg leunt op 2 dingen: hd benadering & geheugen. De processor maakt niet eens zoveel uit, maar IO is vreselijk belangrijk. Als je de IO kunt opschroeven, vliegt de searchmachine.
Verder valt de searchdatabase ook haast niet te cachen, want wat wil je cachen? De search is zo verschrikkelijk goed dat hij alle topics doorzoekt, waardoor je dus niet vooraf kunt voorspellen waar je uit zult komen met een zoekopdracht, welk gedeelte van de search hd je daarvoor moet aanspreken e.d.
Uiteraard backuppen wij de searchdatabase, ookal gaat het om hergenereerbare data, mocht de nieuwe zoekmachine uitvallen dan kan altijd een andere server (bijvoorbeeld asclepius) zijn taken overnemen. Verder kan tweakers zonder search, een database die down gaat is een stuk lastiger

[ACM]

Verder valt de searchdatabase ook haast niet te cachen, want wat wil je cachen? De search is zo verschrikkelijk goed dat hij alle topics doorzoekt, waardoor je dus niet vooraf kunt voorspellen waar je uit zult komen met een zoekopdracht, welk gedeelte van de search hd je daarvoor moet aanspreken e.d.

Volgens mij ga je er nu van uit dat het allemaal volledig random is. Dat valt ook wel weer mee, bovendien is van de 11G, die nu gebruikt wordt on-disk, zo'n 6.5G "positionele" data. Dat is de data die gebruikt wordt voor het bekijken of een document ook aan een zin voldeed.

De andere 4.5G is juist het deel dat het meest in cache moet zijn en de omvang van die data zal straks zeker bij de 8G prima te cachen zijn. Uiteraard mag ook van die andere 6.5G zoveel mogelijk gecached worden.

[pietje63]

Heeft een fileserver echt zoveel cpu kracht nodig? Was het geen idee om de "erg oude" 2,8ghz xeons deze job te laten doen?

[Daniel]

Dat kon op zich wel, maar het is nuttiger om de oude Atlas in zijn geheel te behouden. Dan is ie tenminste nog verkoopbaar

[zeef]

De oude server hardware (prima machine, altijd binnen gestaan, weinig kliometers gemaakt) staat nu te koop in V&A met certificaat van echtheid, de handtekening van Femme erop en foto's van het rack van afkomst.

[Maxxi]

Mag ik vragen hoe jullie dit "zomaar" kunnen betalen?
Is dat nou allemaal reclame geld?

Ik denk dat waarneer er een doneer mogelijkheid op tweakers zou zijn, er best veel mensen wat zouden doneren.

Waaronder ik :)!

Ga zo door!

[PierreAronnax]

Ik denk dat waarneer er een doneer mogelijkheid op tweakers zou zijn, er best veel mensen wat zouden doneren.

Doneren kan door een abonnement te nemen, en je wordt er zelf ook nog eens beter van

[Bezulba]

je kan abbonee worden... dan doneer je geld aan tweakers en krijg je er nog coole shizzle voor terug ook!


grmbl PierreAronnax ik ben weer te traag

[Verwijderd]

Reclameinkomsten, sponsordeals, abonnementen, etc. Daarom moet je op T.net de banners ook niet blokkeren, zo sponsor je ze een beetje, af en toe op de banners klikken kan ook geen kwaad.

[Daniel]

Wij halen onze inkomsten uit advertising, abonnementen voor shops in de Pricewatch (Pricewatch Manager), TweakDSL en de My.tweakers.net-abonnementen. 'zomaar' is misschien een groot woord maar het is gelukkig zo dat we inmiddels niet meer hoeven te bedelen bij bedrijven voor goede hardware

[the_stickie]

op bedel-vlak is tweakers natuurlijk altijd wel een beetje bevoordeeld geweest... welke hardwareboer wil z'n naam nu niet op de frontpage van een der grootste nerd-communities

afaik is tweakers de grootste Nederlandstalige?

[loodgieter]

daarnaast is het ook jullie brood neem ik aan. Gok niet dat je dit doet als bijbaantje