Passer le menu

Auteur Sujet: Évolution de l'architecture : plus de serveurs ! Ou pas !  (Lu 418 fois)

Zatalyz

  • La Papesse
  • Orateur émérite
    • Voir le profil
Évolution de l'architecture : plus de serveurs ! Ou pas !
« le: 04 novembre 2019 à 14:43:05 »
Suite au grand plantage de l'autre week-end sur murbaz, j'ai pris un peu en urgence un 3e serveur pour s'assurer qu'on ne perde rien.

Après analyse, Murbaz ne semble pas mourant de façon claire donc on l'a remis en marche. Mais c'est tout de même le moment de se poser la question de l'évolution de notre archi, parce qu'on a de la trésorerie. Pas au point de pouvoir faire n'importe quoi, mais... on a vraiment plus d'options qu'avant. Il faudra attendre un peu pour une confirmation trésorière du montant annuel qu'on peut mettre sur les serveurs mais il faut aussi, ici, qu'on détermine les stratégies les plus intéressantes.

Actuellement, nous avons deux serveurs, Nuxru et Murbaz, qui se sauvegardent mutuellement : Nuxru garde une copie des données de Murbaz, Murbaz garde une copie des données de Nuxru. Il y a des VM sur les deux : le pad et des vm de test sur nuxru, le reste sur Murbaz. Nous venons d'ajouter un 3e serveur (sans nom) qui a des copies de Murbaz, mais d'une façon ou d'une autre il va être modifié.

Citation de: Lyne
Est-ce qu'il est plus intéressant (financièrement et/ou technologiquement) d'avoir 3 serveurs, dont un dédié au back-up (et, j'espère, à peu près correct pour ne pas risquer un crash dessus au plus mauvais moment) ? Ou d'avoir 2 serveurs seulement (comme jusqu'à récemment) mais de meilleure qualité / plus robustes ? Ce n'est pas tant le détail de la réponse qui m'intéresse, mais l'avis résumé des chefs maj sur le sujet, hein (je rappelle que je suis blonde :P ).

J'aime bien les questions de blonde, elles sont pleines de bon sens. Je vous remet ma réponse longue (c''était du mail) :
Citation de: zatalyz
En fait, les serveurs un peu mieux (type soyoustart, hertzner) ou carrément mieux (offre pro d'ovh et consort) sont vite vraiment plus cher pour des produits équivalents en terme de ram/dd/cpu. Quand on trouve l'équivalent, parce qu'évidement plus c'est cher plus c'est des grosses machines. Pour un ordre d'idée (je vais donner tous les prix HT) :

- nous avons actuellement chez kimsufi un serveur à 10€, qui suffirait pour du backup mais qui n'a pas beaucoup de puissance pour plus, et un autre à 25€ sur lequel tout tourne ou presque. Le serveur de backup que j'ai pris dans l'urgence (dans l'idée qu'on allait ptet devoir faire un transfert des services aussi) est à 14€/mois, on pourrait se contenter de celui à 10€ ou même chercher d'autres offres qui offrent du stockage sans plus et qui seront peut-être moins cher. Ou pas, ces serveurs à 10€ me semblent honnêtes en backup :). Donc 35€+14 ou 10€.

- le premier prix soyoustart est à 35€, il est un peu mieux que le kimsufi à 25€ pour le cpu et équivalent sur le reste.

- le premier prix chez ovh est à 53€. À ce prix par contre on a une machine de guerre et des services associés qui déchirent, hein (plus de bande passante, un vrai service de support, 32Gb de ram, un cpu de fou, autant de To sur les disques que sur nos deux serveurs, et un peu de sauvegarde en plus).

La question est cependant pertinente, parce qu'on voit les limites de gitlab actuellement (on aurait besoin de plus de place, plus de cpu, etc). De la discussion qu'on a eu avec play.it, il semble qu'on parte sur la possibilité de mutualiser nos gitlab et dans ce cas, un serveur au top commence à être intéressant s'il héberge nos autres services à côté. Pour rentrer dans un peu de détails techniques, on garderais une technologie de VM (xen ou autre mais on est 3 à maitriser assez xen à présent donc...), il y aurait une VM pour gitlab partagée avec play.it, et d'autres VM pour nos divers besoins. Et là encore, on peut mutualiser, prendre un peu plus puissant pour héberger tout play.it et Khaganat sur les mêmes machines par exemple. Dans cette optique, je garderais cependant le kimsufi à 10€, vidé de toutes les vm à une exception prête et dédié à la sauvegarde. L'exception, c'est si à un moment on se décide à héberger XMPP, je ne veux pas que ce soit sur le même serveur que le reste ; et je veux aussi avoir un bout de serveur externe sur lequel on peut rediriger en cas de gros plantage (comme là) pour dire "on est pas morts". Ceci dit ça consomme pas de ressources, ça ;)

Dans cette optique on serait quand même à quelque chose comme 63€/mois soit 756€, soit 907€ TTC... Et moins souple en cas de souci de trésorerie. Actuellement, si la trésorerie s'effondre, on peut rapatrier les services essentiels sur le serveur à 10€ (les vm ont leur place réservée), couper les services gourmands sans perdre les données (gitlab, le pad, nextcloud). Si on met tout sur un gros serveur et que le petit est réservé au backup, il va falloir que tout la place soit là pour le backup... et donc en cas de rétropédalage ça sera un peu plus le bordel, et il faudra sortir des sous (reprendre un petit kimsufi en plus) avant de pouvoir fermer le gros. Et ça demandera plus de temps aussi. D'un autre côté, je n'envisage pas que notre croissance diminue :P Je veux dire : si on mutualise les coûts avec play.it voir d'autres structures (cf le chatons de la culture libre), et si comme je l'espère on commence à développer sérieusement la recherche de financement (c'est un peu mon but pour l'an prochain), la trésorerie ne devrait pas baisser. MAIS dans le même temps, pour rester sur une analyse très financière, actuellement nos revenus sont déséquilibrés, provenant principalement de quelques gros donateurs. Il suffit que deux d'entre eux arrêtent de donner et on aura l'air con l'année suivante. On a quand même de l'avance pour se voir venir, mais faut prendre en compte que la réactivité n'est pas si énorme dans l'équipe : un transfert de serveur sera probablement long et laborieux (2 mois ? durant lesquels faudra tout payer...).

Voilà pour les éléments de réflexion...

Depuis, je dois dire que l'optique d'avoir un gros serveur avec un vrai service derrière et plus de garanties (et de bande passante) me plaît bien (chez ovh ou ailleurs, mais de la qualité). Nuxru étant étonnament fiable au fil des ans, on peut le garder pour le backup. Mais prendre un vrai serveur cher me semble pertinent si on mutualise avec les copains, sinon ça fait quand même cher et on n'a pas besoin tous les jours d'autant de CPU et de bande passante...

On pourrait aussi viser une solution intermédiaire, avec un serveur moyen de gamme offrant plus de garantie. C'est moins intéressant à mon goût parce que côté performance on ne gagne pas grand chose par rapport au surcoût, encore qu'il faudrait regarder ce que proposent Hertzner, online.net etc...

Si on reste sur la logique les deux serveurs se backupant mutuellement mais avec des serveurs pas cher, il me semble important d'envoyer une deuxième copie de tous les backup sur un 3e serveur, pour une raison très bête : nos deux serveurs sont actuellement dans le même datacenter. Ça, c'est pas bien, en terme de redondance :P Et on a bien vu aussi que nuxru, tant que c'est un hyperviseur, est un peu faiblard pour restaurer les sauvegardes (on court après la place sur le disque dur, réservé par les VM).

Dans toutes ces situations, il me semble de toute façon intéressant de transformer Nuxru en "juste du backup" (on vire l'hyperviseur et les vm, donc ça veut dire les mettre ailleurs, mais autant avoir de la ressource pour ça). Nuxru a un avantage important, c'est une vieille offre et on a plus en disque dur que ce qui se fait actuellement (j'ai un mal fou à avoir l'info avec LVM, mais je crois que c'est 3To ?), et il s'est avéré stable ces dernières années.

Il serait bien qu'on se décide dans les jours qui viennent, pour deux raisons :
- éviter de payer le 3e serveur pour "rien" (actuellement il n'est pas configuré pour dédoubler les backups, ou héberger des vm, et suivant ce qu'on décide, on le garde ou on en prends un plus petit)
- il y a en fin de mois un horrible machin capitaliste qui fait qu'on peut espérer des supers promos sur les offres... c'est pas mal de pouvoir économiser les frais, quand même. Pas un argument suffisant (faut qu'on puisse payer même sans la promo) mais si on peut en profiter ce sera aussi bien pour nos finances.

Zatalyz

  • La Papesse
  • Orateur émérite
    • Voir le profil
Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #1 le: 04 novembre 2019 à 16:41:16 »
Update sur les infos :

- Oneprovider a vraiment des bons prix. On a pas forcément beaucoup plus de service que kimsufi, mais la bande passante est vraiment plus importante.
- Rectification sur les prix : les serveurs sont pas chers actuellement et on paie plus qu'on ne devrait. Murbaz nous coute 21€ HT, là, mais si on prenait le même serveur chez kimsufi actuellement (KS-6) on paierait... 18€. Pour l'équivalent de nuxru on serait à 2€ de moins (complexité à comparer parce que l'offre est vieille).

Rollniak

  • Sysadmin
  • Citoyen du Khanat
  • *
    • Voir le profil
Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #2 le: 04 novembre 2019 à 20:13:33 »
Coucou,

Merci Zatalyz pour le récapitulatif. Il serait tentant de prendre la machine de guerre mais dans ce cas je préfère avoir une garantie de paiement sur le long terme.

De mon point de vue le choix de la machine dépend en partie de la possible mutualisation de Gitlab avec ./play.it.

- Si on mutualise avec ./play.it nous gagnons en ressource CPU/RAM pour un temps et nous pouvons nous concentrer sur une machine a faible coup dédier au backup.
les avantages sont nombreux, nous partageons les frais de la mutualisation de Gitlab,  nous obtenons une machine à moindre coût, et nous récupérons CPU, RAM et espace disque sur les machines en productions.
Ce plan est celui que je préfère actuellement.

Dans le second cas, une formule a faible coup pour une troisième machine est envisageable dans la mesure ou nous connaîtrions aurions une idée de ce que nous ferions tourner dessus :) en gros cela demande un peu plus d’approfondissement.

note de fin, il sera toujours possible ultérieurement de faire une migration d’un nos serveurs actuels vers des machines plus haut de gamme avec tous les services que cela implique plus tard.
Système d’exploitation : OpenSuSE, FreeBSD
Éditeur de texte : NeoVim

Zatalyz

  • La Papesse
  • Orateur émérite
    • Voir le profil
Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #3 le: 30 janvier 2020 à 21:02:30 »
Mise à jour au fil des discussions.

Le partenariat avec ./play.it nous convient à tous, donc on part là dessus. Vv222 va faire des tests sur son instance gitlab pour voir comment mutualiser des ressources, tout en ayant deux vitrines séparées.

Le fournisseur à privilégier serait plutôt Online.net ; Tycho et Deed confirment la qualité du service. Suite aux soldes, les serveurs intéressants ne sont pas dispos, mais on verra ça quand on sera prêt à faire le transfert. L'idée est de privilégier un serveur avec pas mal d'espace disque, une bonne bande passante (plus que kimsufi), et j'aimerais dépasser les 20Go de ram ; le CPU devrait suivre. Côté prix, ./play.it vise plutôt du 25€/mois, nous on est actuellement sur du 42€ TTC, soit 67€ TTC / 55€ HT ; mais Khaganat étant dans une bonne situation financière et le but étant de monter en gamme, je pense qu'on peut envisager de payer plus de notre côté. Bref on va voir les diverses solutions, et valider avec notre Chef des Chiffres si ça rentre dans le budget. À noter qu'il faudra avoir un second serveur juste pour les sauvegardes ; là on peut rester sur du kimsufi ou autre pas cher mais avec de la place.


Tycho

  • Sysadmin
  • Citoyen du Khanat
  • *
    • Voir le profil
Re : Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #4 le: 11 février 2020 à 11:32:45 »
À noter qu'il faudra avoir un second serveur juste pour les sauvegardes ; là on peut rester sur du kimsufi ou autre pas cher mais avec de la place.

Je me permet de préciser que Online.net fournit gratuitement un espace de stockage FTP avec chaque serveur. Certes, ce n'est que du FTP (connexion non sécurisée), mais il est tout à fait envisageable de chiffrer les sauvegardes avec une clé OpenPGP avant de les envoyer. Si l'espace gratuit n'est pas suffisant, il est possible d'en commander d'autre en payant un peu. Ce sera toujours moins cher qu'un vrai serveur.

Ceci dit, prendre plusieurs serveurs est tout à fait envisageable. À ce sujet, et toujours en ne considérant que le cas d'Online.net, je recommande de se focaliser sur les serveurs disposant du RPNv2. Cette technologie permet d'avoir une seconde interface réseau qui relie ensemble toutes les machines dont nous disposons, et ce de manière sécurisée. Dans le cas où nous utiliserions Proxmox il serait alors possible de créer un cluster utilisant cette interface pour communiquer. Les avantages d'une telle configuration sont, d'une part, la simplicité et l'automatisation des sauvegardes qui seraient alors gérées par Proxmox et, d'autre part, la simplicité de migration future de l'infra (ajout/retrait de machines au cluster, déplacement transparent de VM/conteneurs d'une machine à une autre, etc).
Seul désavantage du RPNv2 : toutes les offres ne peuvent pas en disposer et celles qui le peuvent ne sont pas les moins onéreuses. D'après la FAQ du RPNv2, il existe une option de compatibilité avec le RPNv1, mais là encore les machines qui en disposent ne sont pas les premiers prix.

Zatalyz

  • La Papesse
  • Orateur émérite
    • Voir le profil
Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #5 le: 11 février 2020 à 11:51:34 »
Le seul truc, que ce soit du FTP ou un autre serveur, c'est de s'assurer que la deuxième machine soit dans un lieu géographique différent de la première. Je ne sais pas si Online précise ce genre de détail quand on prend le FTP.

Après, là dessus, j'aimerais bien faire de la redondance, et m'assurer que certains des admins aient une copie de sauvegarde "chez eux". Par exemple j'ai* un kimsufi qui a de la place, y'aurais moyen d'en mettre à disposition pour stocker un double de la sauvegarde. Et comme je ne suis pas la seule à jouer avec des serveurs persos, on pourrait répéter ça. Par contre, je préfère aussi avoir une sauvegarde sous la responsabilité de "Khaganat", afin que la récupération d'une sauvegarde ne dépende pas d'une seule personne... La redondance, c'est plus si pour une raison quelconque la sauvegarde commune foire, on retrouve les données par un autre biais.

Je suis peut-être un peu trop paranoïaque.

* Enfin, "j'ai".. disons que je profite de la générosité de certains, qui me paient des serveurs, contre l'administration de la machine ;)

Zatalyz

  • La Papesse
  • Orateur émérite
    • Voir le profil
Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #6 le: 02 avril 2020 à 00:22:19 »
Dans les possibilités, soit un pack [start-2s-sata + start-2-M-Sata] soit [store-1-S] chez https://www.scaleway.com/ (ex online.net).

Avantages et inconvénients du pack Start :
+ Moins cher (25+9€ HT/mois et 20€ de frais d'installation en tout), soit 34€ HT/mois, soit 40,80€/mois TTC, soit 490€ par an environ
+ Plus de bande passante sur chaque (1Gbps), ce qui devrait améliorer les choses pour le gitlab
= le start-2-M-Sata est l'équivalent de Murbaz. L'idée est de lui mettre les services les plus demandeurs en CPU (branaz, lirria)
- le start-2s-sata est léger côté CPU mais peut suffire pour 2VM : cipra et soit jukni, soit etherpad. Ça se discute, l'une des deux ira sur l'autre.
- Il y a seulement 1To sur chaque mais... comme les sauvegardes ne seront pas sur ces serveurs, ça devrait aller.

Avantages et inconvénients du store-1-S:
- Plus cher (44,99€ HT/mois + 50€ de frais d'installation), soit 54€/mois TTC, soit 648€/an environ
- La bande passante est à 150Mps (kimsufi  actuel à 100Mbps), on va pas gagner grand chose
+ Le CPU est légèrement plus puissant que celui de Murbaz, on peut héberger toutes les VM sans souci
+ 2*4To : on a de la place de faire grossir les dépôts.

À noter que plusieurs solutions sont possibles pour les backups mais ça ne sera pas sur ces serveurs : ils seront envoyé ailleurs. Là dessus, pas de surcoût, pour moi soit on garde nuxru pour ça, soit on prend une solution pas plus chère.

Tycho

  • Sysadmin
  • Citoyen du Khanat
  • *
    • Voir le profil
Re : Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #7 le: 02 avril 2020 à 14:45:03 »
Le seul truc, que ce soit du FTP ou un autre serveur, c'est de s'assurer que la deuxième machine soit dans un lieu géographique différent de la première. Je ne sais pas si Online précise ce genre de détail quand on prend le FTP.
C'est précisé et ils font attention à proposer un serveur FTP situé dans un datacenter différent du serveur en question.

À noter que le système de sauvegardes de Proxmox n'est, à ma connaissance, capable de stocker les dites sauvegardes que dans un volume de stockage géré par Proxmox. De là, deux solutions possible :
  • on trouve comment ajouter un serveur FTP comme stockage Proxmox (ça peut etre fun)
  • on fait un petit script qui upload qui se lance régulièrement afin d'uploader automatiquement les sauvegardes sur le serveur FTP

deed

  • Sysadmin
  • Résident du Palais
  • *
    • Voir le profil
Re : Évolution de l'architecture : plus de serveurs ! Ou pas !
« Réponse #8 le: 03 avril 2020 à 09:10:24 »
Alors plus j'y réfléchi , plus je me dis que quand même sans l'option business. Il y a pas trop de différence entre scaleway et oneprovider (Paris) .
1/scaleway :
  -plus rapide au ticket( quelques heures), ftp, plus d'option, panel plus récent, bon gedtion ipv6
  - honereux, on ne peut pas gérer à plusieurs, frais de mise en service

2/oneprovider
  - moins chere(~40%), on peut gérer à plusieurs, canadien (pour lz gestion), pas fraus mise en service
  - moins d'option, server aléatoire, ticket (1 à 2 jours), pas de fto, IPv6 manuel

Alors le prix puissance , on peut avoir 2 assez gros servers :
 - 21€ à 25€ pour le principal
 - 16€ à 25€ pour le second

21+16=37    37*12=444€ par ans

Il sont assez costaux pour avoir tous les services répliquer et des VM de tesr
Et on peut répartir en allumant que la moitier des services sur chaque

ps:j'ai choisie au moins 2tetra avec, cpu au moins au niveau de murbaz ou plus et de 8 à 16 de ram

Tags: