Archives pour l'étiquette Voici.fr

Comment voici.fr, gala.fr, geo.fr, femmeactuelle.fr en eZPublish utilisent le StaleCache et une architecture NAS

Second couche

Pierre Jean Duvivier, responsable du département WebFactory de EditPress n’en fini pas de revenir sur sa terrible expérience avec Ez Publish 3.x et les raisons de son abandon par EdiPress. Revenir car déjà le propos à déjà été exposé par ses soins dans un article nommé EzPublish : l’enfer du devoir article que j’ai un peu commenté en exposant ma propre vision des problématiques soulevé par le choix d’eZ.

Je trouvais déjà la première condamnation de eZ sans nuance alors que le respect de quelques préceptes de dev permet de faire des choses bien plus que honorable avec eZ. Mais bon chacun son vécu et pour avoir transpiré à trouver des solutions d’architectures capable de soutenir l’audience je compatissais. Par contre la nouvelle et seconde couche passé par Pierre Jean Duvivier me semble un peu injuste car depuis 18 mois l’eau à couler sous les ponts. Un peu car la conception d’architecture pour eZ reste quelque chose de peu documenté et qui repose sur des connaissance quasi chamanquie.

eZ publish assure que le partage de donnée entre serveur dans une configuration multi-frontaux est prévus. Or dans la pratique on trouve vite des limites à cela. Je me permet de me cité moi même ^_^.

Dans le cas d’un site eZ avec du contenu dynamique la limite technique est de 30000 VU / 24h avec le partage d’information via NFS. Au delà de cette limite différent « bug » apparaisse qui vienne défigurer le contenue du site (bug wilcard, Bug NULLNULL, Perte cache block)

Dans le cas d’un site eZ avec du contenu dynamique la limite technique est de 35000 VU / 24h avec le partage d’information via le mode cluster dans une base de donnée Innodb/Mysql. Au delà de cette limite les demandes d’accès exclusif au information trop nombreux au point de bloqué le fonctionnement de l’application.

Pour dépasser les 35000 VU / 24h la seul solution que nous avons trouvé est de localisé l’intégralité de l’application sur un unique serveur en mode filer. Le matériel ayant évolué, avec un serveur Bi-Cpu quadri-core de 3Ghz avec 8Go de RAM il est parfaitement possible de produire 95000 VU / 24h c.a.d 300K pages vues par 24h. Nous avons testé cette solution sur voici.fr et gala.fr en version eZ 3.10 avec à chaque fois une réussite total, une bonne stabilité et le dépassement des seuil de production précédent. Reste que dépendre d’un unique serveur n’est pas une chose très sécurisante quand à la scalabilité…..

J’ai testé personnellement en suite différente architecture pour arrivé sur cette base à une solution multifrontal. Le NFS pur depuis un serveur lambda étant à oublier j’ai testé les profiles d’architecture suivante en multi-frontal avec l’aide de mon hébergeur hors norme pour son aide en R&D

  • Un serveur lambda partageant en mode bloc un volume via iSCSI. Deux frontaux utilisant ce volument via le système de fichier OCFS2 qui gère les concurrences
  • Un SAN Dell EqualLogic en mode bloc un volume via iSCSI. Deux frontaux utilisant ce volument via le système de fichier OCFS2 qui gère les concurrences
  • Un SAN Dell EqualLogic en mode bloc un volume via iSCSI. Deux frontaux utilisant ce volument via le système de fichier GFS2 qui gère les concurrences

Nous n’avons pas retrouver le rapport stabilité / capacité de production que nous avions connue avec le principe du frontal unique. Nous avons constaté que eZ ouvre et verrouille énormément de fichier par instance rendant le partage d’information entre frontaux problématique. Nous avons même constaté des lock récursif ce qui nous à tous laisser dubitatif. La conclusion était terrible, plus nous ajoutions de frontaux plus les instances entrait en concurrence pour accéder à l’information.

Quand le sujet était évoqué auprès des gens de chez eZ la réponse était par forcement audible. Par contre il était amusant de faire toussé Paul Bogermans de eZ publish en lui posant la question.

Mais depuis les choses on évolué

Suite à un forte pression des utilisateurs des moyen on été investi par eZ Publish pour que soutenir plus facilement une forte audience. Ceci à eu pour résultat le patch StaleCache dont j’ai parlé en signalant qu’il signifiait peut être la fin des combats.

Précédemment la génération d’un fichier cache se faisait à invalidation du précédent fichier, à la demande, et par chaque process qui le requiert; entrainant de nombreuses concurrences d’accès (lock des fichiers dans var/…/ezmutex) et une grande surcharge sur le filesystem. Le nouveau système (StaleCache) se débarrasse intégralement de la gestion de la concurrence par locks. Le mécanisme consiste maintenant à fournir aux frontaux web l’ancienne version du fichier de cache jusqu’à ce que la nouvelle soient re-générée. Ce qui diminue grandement l’empilement des process sur le filesystem en garantissant la génération du fichier par un process unique.

J’ai testé le StaleCache mais malheureusement pas dans une config multi-frontal. Rien à redire, ceci me semble être un direction bien plus pérenne que précédemment. Si quelqu’un pouvait tester ce patch avec une architecture serveur lambda partageant en mode bloc un volume via iSCSI. Deux frontaux utilisant ce volument via le système de fichier OCFS2 qui gère les concurrences, avec une audience forte je serais heureux d’en connaître l’issue. Le StaleCache est arrivé trop tardivement pour nous pour que nous l’appliquions sur ce type d’ architecture , nous avons pris une autre direction.

NAS

Nous avons fait le choix d’utilisé un NAS avec le protocole NFS. Ben et les bug lier à NFS vous allez me dire. Et bien avec la puissance d’un NAS et certainement avec l’implémentation propriétaire du protocole NFS du fabriquant nous n’avons pas ces bugs, par contre l’addition est douloureuse et ceci n’a peu être justifié que par un l’utilisation de cette ressource par plusieurs sites et une audience global des plus forte avec 6,7 Millions de visiteurs unique et 18,7 millions de pages vue par mois (OJD Janvier 2009). Avec une moyenne d’utilisation de seulement 140 opération seconde sur ce NAS nous avons encore de belle perspective devant nous.

Et le  »StaleCache’ ? et bien nous l’utilisons sur nos sites peoples avec succès.

EzPublish : l’enfer du devoir.

l’enfer de J.Duvivier

Pierre Jean Duvivier, responsable du département WebFactory de EditPress reviens sur son expérience avec Ez Publish 3.x et ces raisons de son abandon par EdiPress.

Je le cite : En 7 ans d’expérience sur des projets internet, j’ai vécu le cauchemard de ma vie avec ce CMS.

Il explique bien les difficultés de eZ publish pour les sites web à forte audience. J’aime bien son expression pics de décachage qui correspond au tempête SQL que je rencontre et qui génère des lock de table en chaine avec l’utilisation du mode cluster de eZ 3.x. J’ai évoqué le sujet chez pwet sur son article à propose du eZ developer day à Paris le 17/04/2008

Je vous invite a en lire plus sur cette expérience de Ez publish pour des sites web média à fort trafic.

Sa seul modération pour Ezpublish est le suivante : Attention la version mise en oeuvre était eZpublish 3.8. De plus un Framework avait été posé devant masquant ainsi une partie des fonctionnalités d’eZpublish.

J’aimerais avoir des informations sur le framework posé devant. Si il surcharge la gestion de cache de eZpublish on peux difficilement blâmer ce dernier d’être peu performant.

Ma vision de la Problématique

Avoir un site hyper-réactif, au contenue dynamique, aux mises à jour quasi immédiate impose un partage d’information tout aussi immédiat, avec une information vivante et volatile impose la centralisation de cette information. Toute tentative de répartissions, de distribution engendre une latence, un besoin de contrôle et de vérification de cohérence, bref tout ce qui engendre du délais et donc le contraire de l’hyper-réactif.

Quelque exemple d’hyper-réactivité d’un site :
- Nombre de commentaire à jour pour chaque article sur la home page
- Commentaire immédiatement disponible
- Liste des articles de première page annoncé sur chaque pas d’un site
- Personnalisation a outrance (login, avatar, message interne etc..)

En conséquence que cette information ultra centralisé soit accessible entre un nombre de frontaux ou processus important engendre de façon exponentiel à l’audience des accès concurrentiel et conflictuel à la même information. On arrive à un point de l’état de l’art informatique qui n’est pas encore résolut de façon économique.

Mon expérience ce porte sur des sites eZpublish 3.9 et 3.10, hyper-réactif, qui impose l’utilisation d’ajax pour individualisé le contenu de chaque page ou presque, ceci quasiment en temps réel. Ces sites génère 7Millions de pages vues et 1 millions de visiteur unique par mois.

Dans le cas d’un site eZ avec du contenu dynamique la limite technique est de 30000 VU / 24h avec le partage d’information via NFS. Au delà de cette limite différent « bug » apparaisse qui vienne défigurer le contenue du site (bug wilcard, Bug NULLNULL, Perte cache block)

Dans le cas d’un site eZ avec du contenu dynamique la limite technique est de 35000 VU / 24h avec le partage d’information via le mode cluster dans une base de donnée Innodb/Mysql. Au delà de cette limite les demandes d’accès exclusif au information trop nombreux au point de bloqué le fonctionnement de l’application.

A ce seuil technique d’utilisation de eZ comme générateur de site web eZ publish n’a pas de réponse fiable et viable à 100%. La préconisation de eZ Publish, information recueillie au eZ Developper day Paris 2008 et confirmée a l‘Ez Conférence de Skien 2008 est l’utilisation d’un NAS dont le ticket d’entré est de 35K€ (plus les cout de maintenance et administration annuel). C’est cette solution qui a semble avoir été mise en œuvre par d’autre acteur de la presse pour leur sites web atteignant le seuil technique des 30 ou 35 Kvu /24h

Et encore, l’utilisation d’un NAS offre que plus de puissance et donc traitant le partage d’information plus rapidement diminue les risques de conflit d’accès sans pour autant l’éliminer. En effet un NAS partage l’information via des protocoles n’offrant pas l’exclusivité d’accès au fichier (NFS, SMB etc). En outre l’utilisation d’un NAS introduit un goulot d’étranglement dans l’architecture. En cas de défaillance de celui ci tout les sites web l’utilisant seront impacté.

L’opposer d’un contenu dynamique c’est le site statique. C’est justement la solution avancé par pwet sur le blog de smile dans l’article : eZ publish à très hautes performances.