Important:

Ce qui est dit sur les backups sur cette page n’est pas immédiatement vrai : pour l’heure les backups sont faits sur des machines virtuelles et pas aux endroits décrits. Ce qui est décrit ici est un plan pour le futur. La sécurité des backups est néanmoins déjà aussi « bonne » que décrite.

Configuration matérielle et réseau

Picasoft possède trois machines physiques (Alice, Bob et Caribou) sur lesquelles sont lancées les machines virtuelles, qui font tourner les services.

Alice et Bob sont nos deux machines historiques. Elles ont la même configuration matérielle.

Bob est hébergée par le FAI associatif Tetaneutral, à Toulouse. Alice est hébergé par le FAI associatif Rhizome, à Compiègne.

Note:

Rhizome est, comme Picasoft, une association née à l’UTC. Elle profite du datacenter de la DSI de l’UTC où est installée une armoire dédiée à ses machines et aux copaines hébergé·es.

Historiquement, le fait d’être hébergé au sein d’une association a également eu un impact sur le choix des machines, des tours classiques plutôt que des serveurs rackables. En effet, les hébergeurs classiques dans leurs prestations d’housing (hébergement où vous ramenez votre machine) imposent d’avoir des serveurs rackables qui sont le plus souvent coûteux.

Tetaneutral a une salle associative (TLS00) hébergées dans le datacenter Fullsave. Cette salle est notamment équipées d’onduleurs (environ 5), qui permet d’éviter des coupures temporaires sur le réseau électrique et donc d’éviter la plupart des interruptions de services dues au réseau électrique. Chez Tetaneutral, les contraintes sont moins importante et il nous a été possible de faire héberger des serveurs au format “tour ATX” classique. L’avantage de cette solution est que nous avons pu monter des configurations sur mesure avec des pièces informatiques grand public. Du fait de cette économie, nous avons eu la possibilité d’investir dans des configurations haut de gamme.

La DSI de l’UTC dispose également d’onduleurs permettant une redondance électrique, ainsi que de liens très haut débit.

Alice est considérée comme en fin de vie suite à de nombreux incidents de freeze et de redémarrage. Ainsi, ses deux SSD sont montés en RAID1 et peuvent servir à héberger des services de test ou non-critiques, en assurant que les données ne seront pas perdues. Ses deux HDD restants sont sans RAID : l’un est dédié aux backups, qui n’ont pas besoin d’être redondés, et l’autre est dédiée à l'expérimentation de stockage partagé avec Garage.

Bob est la machine sur laquelle tournent les services les plus critiques et les plus utilisés, bien qu’elle soit vieillissante. La raison est qu’il y a plus de chance que le réseau casse côté Rhizome que côté Tetaneutral. L’intérêt de la garder à Toulouse est d’offrir une redondance géographique pour l’échange de sauvegardes. Ses deux SSD et HDD d’origine sont montés en RAID1 et contiennent les données des services. Ses deux HDD récents sont sans RAID et ont la même fonction que sur Alice : un pour les backups, un pour l’expérimentation Garage.

Caribou est hébergée à Compiègne par Rhizome, comme expliqué ci-dessus. L’armoire dans laquelle elle est installée permet de choisir un serveur rackable, plus puissant et mieux adapté à l’utilisation en continue.

Lien:

Plus de détails dans notre billet de blog : https://blog.picasoft.net/~/Picablog/caribou-le-petit-dernier-de-picasoft

La base est un Dell PowerEdge R340, avec les options suivantes :

  • 2.5“ Chassis with up to 8 Hot Plug Hard Drives
  • Intel® Xeon® E-2276G 3.8GHz, 12M cache, 6C/12T, turbo (80W)
  • 216GB UDIMM, 3200MT/s, ECC 1TB 7.2K RPM SATA 6Gbps 512n 2.5in Hot-plug Hard Drive
  • Single, Hot-plug Power Supply (1+0), 550W
  • ReadyRails™ Sliding Rails Without Cable Management Arm
  • Fresh Air CoolingUEFI BIOS Boot Mo e with GPT Partition
  • ReadyRails™ Static Rails for 2/4-post Racks

Note:

Les disques durs étaient remarquablement chers, mais on avait pas le choix de les prendre. C’est une gamme pro, fait pour fonctionner très fort et en permanence pendant longtemps.

La configuration complète peut se trouver sur la facture.

Au même moment, on a complété la configuration par deux SSD de 1To avec des rails pour les disques.

Plus tard, quatre SSD de 1To, un SSD de 2To et 4 caddies ont été achetés.

Les 2 SSD de 1To d’origine, 2 des nouveaux SSD et les 2 HDD sont en RAID 1 . Ils sont intégralement dédiés au stockage des machines virtuelles et notamment des services.

Important:

On utilise le contrôleur RAID matériel de Caribou, directement configuré dans le BIOS. Pour chaque grappe RAID, le système d’exploitation ne voit qu’un seul disque. A priori, les performances sont supérieures et la manipulation est plus facile, mais l’inconvénient est d’utiliser un système propriétaire impossible à diagnostiquer en cas de problème.

Le SSD de 2To est installé sans RAID et est dédié à l’association Scenari pour héberger ses backups. Elle soutient Picasoft financièrement et a financé l’achat du SSD. Caribou n’est pas une cible pour les backups de Picasoft, Alice et Bob assurant déjà leur redondance géographique.

Note:

Caribou n’a que 8 emplacements pour disque ; 7 sont utilisés avec cette configuration. Il reste deux SSD de 1To pour pallier d’éventuelles pannes.

Note:

Tetaneutral nous a mis sur un lien 1Gbps, ce qui est très cool. Idem chez Rhizome.

Rhizome met à disposition les IPv4 suivantes :

  • 80.67.182.68 : caribou
  • 80.67.182.69 : pica03
  • 80.67.182.70 : alice
  • 80.67.182.75 : 42l
  • 80.67.182.76 : scenari
  • 80.67.182.77 : pica01
  • 80.67.182.78 : stph
  • 80.67.182.79 : pica01-test
  • 80.67.182.80 : media

Ces IP sont sous le sous-réseau /26. La passerelle est 80.67.182.65.

Important:

Rhizome ne supporte pas l’IPv6.

TTNT met à disposition les IPv4 suivantes :

  • 91.224.148.85 : bob
  • 91.224.148.60 : pica02
  • 91.224.148.61 : monitoring

Ces IP sont sous le sous-réseau /23. La passerelle est 91.224.148.0.

TTNT met aussi à disposition les IPv6 suivantes :

  • 2a03:7220:8080:5500::1 : bob
  • 2a03:7220:8080:3c00::1 : pica02
  • 2a03:7220:8080:3d00::1 : monitoring

A Savoir:

En fait, TTNT nous délègue un bloc d’IPv6 /56 pour chaque IPv4, soit 256 IPv6. Nous n’utilisons que la première IP du bloc (::1) à chaque fois.

  • technique/infrastructure/config.txt
  • de gblond