Some systems are experiencing issues

Stickied Incidents

Tuesday 15 August 2023

nitter.fdn.fr Instance Nitter : erreur « Tweet not found »

Suite à de nouveaux changements côté Twitter (encore…), toutes les instances sont bloquées car la consultation des tweets nécessite à un compte. Le problème est identifié sur le Git de Nitter, ticket 983. La recherche ne fonctionne également pas.

L'équipe adminsys

Past Incidents

Tuesday 15 August 2023

nitter.fdn.fr Instance Nitter : erreur « Tweet not found »

Suite à de nouveaux changements côté Twitter (encore…), toutes les instances sont bloquées car la consultation des tweets nécessite à un compte. Le problème est identifié sur le Git de Nitter, ticket 983. La recherche ne fonctionne également pas.

L'équipe adminsys

Sunday 23 July 2023

lns22.fdn.fr xDSL / FTTH : certaines destinations sont injoignables

Certains adhérents nous ont remontés que certaines destinations pouvaient être injoignables, aussi bien en HTTP/HTTPS, Ping ou SSH. Exemples non exhaustifs : irc.geeknode.org, github.com, linuxfr.org, sa.debian.org…).

Vers 23:30 le 23/07/2023 les quelques adhérents ayant le problèmes ont été exclu de l'accélération noyau L2TP.

Le défaut semble se situer dans la gestion de la route retour entre les LNS. Exemple : routeur adh > LNS11 > GWx > LNS22. En désactivant l'accélération sur LNS22, le défaut disparaît.

L'accélération noyau a été laissé active afin que le mainteneur L2TPNS puisse investiguer. Si vous rencontrez un problème similaire, n'hésitez pas à nous en faire part par e-mail via support (a) fdn.fr ou via les messageries instantanées IRC/Matrix.

L'équipe adminsys

  • La supervision a été mise en place le 21/08 dans la nuit. Ainsi dans le cas où le nombre de tunnel pour chaque LNS vers les LAC Ielo n'est pas strictement 4, on recevra un e-mail pour agir.

    Un ajout de logs dans L2TPNS en cas de souci pour avoir plus de billes lors de la création des tunnels L2TP a été rajouté et une tentative de correction de ce bug hypothétique également.

    Nous soupçonnons de plus en plus un bug dans la gestion des tunnels L2TP au sein du cluster :

      1. Changement d'IP sans créer le tunnel L2TP sur le LNS secondaire
      1. Le tunnel est créé mais vers la mauvaise IP.

    Quelques anciens tunnels L2TP fantômes vus par le noyau mais pas par L2TPNS ont été constaté sur LNS22 (secondaire), ce qui est visiblement sans incidence mais peut-être également un bug.

    L'accélération a été réactivée sur les deux LNS pour tout le monde vers 14:30 en incluant les modifications indiqués plus haut.

    L'équipe adminsys FDN

    • 15/08/2023 00:33 : nouvelle coupure impactant certaines lignes. L'accélération noyau a de nouveau été coupée sur le LNS22 vers 07:48.

    Le problème semble aléatoire mais ne se produire que sur le LNS22 qui est le secondaire et avec l'accélération noyau Linux active sur les deux LNS. Nous avons de quoi mettre en place une supervision pour détecter et agir pour corriger, le temps de trouver l'origine de la panne.

    Hypothèses :

      1. un défaut dans la gestion du cluster entre les deux LNS lorsque l'accelération noyau est active dans L2TPNs ;
      1. un bug du noyau Linux.

    Dans le fonctionnement on a un mirroir dans le noyau Linux des tunnels l2tp du l2tpns et quand le problème se manifeste sur LNS22 toutes les sessions qui sont sur le tunnel en défaut sont à destination d'une des deux IP du LAC Ielo, ce qui ne devrait pas arriver. Chaque LNS a 4 tunnels : 1 tunnel vers chacun des deux IP des LAC Ielo et deux autre depuis l'IP de l'autre LNS.

    La supervision va être mise en place sous peu.

    L'équipe adminsys FDN

    • 25/07/2023 05:00 : de nouvelles traces ont été prises. Lors de la réactivation de l'accélération sur LNS22, une demie-douzaine d'IP d'adhérent ne répondaient plus au ping. RAS sur LNS11. Un tcpdump a permit de voir que lorsque ça ne fonctionne pas, les paquets sont envoyés au mauvais LAC Ielo.

    Il s'agit peut-être d'un bug dans L2TPNS ou dans le noyau Linux qui se manifeste parfois et pas pour tout le monde.

    Actuellement, l'accélération est désactivé sur LNS22 mais active sur LNS11 car aucune erreur n'a été constaté sur ce dernier.

    L'équipe adminsys

    • 24/07/2023 17:57 : désactivation de l'accélération noyau pour tout le monde suite à de nouvelles remontées

    L'accélération est uniquement active pour un adhérent afin de permettre de creuser et trouver la cause.

  • Monday 10 July 2023

    Coupure franche de la collecte FTTH Axione

    Chers adhérents, chères adhérentes,

    Nous subissons un incident qui impact les FTTH collectées via Axione.

    Nous n'avons pas plus d'information pour le moment.

    L'équipe adminsys

  • La panne a été corrigée par Axione vers 15:40, la cause est un script ayant mis la configuration BGP en défaut, d'où le problème d'annonce des routes.

  • 12:51 : dam64 a mis une rustine en place, en attendant qu'Axione fassent le nécessaire (Aquilenet ne recevait plus de routes de leur part). Suite à la rustine, les lignes FTTH sont remontées.

  • Friday 30 June 2023

    nitter.fdn.fr Instance Nitter : erreur « Tweet not found »

    Suite à de récents changement côté Twitter, toutes les instances sont bloquées car la consultation des tweets nécessite à présent un compte. Le problème est identifié sur le Git de Nitter, ticket 919

    Aucune solution pour le moment.

    L'équipe adminsys

  • 03:50 : l'instance a été mise à jour afin de corriger la recherche de Tweets. Tout est désormais fonctionnel !

  • Depuis 16:51, l'instance est de nouveau opérationnelle après mise à jour afin d'inclure les changements de la pull request #927.

    Seule la recherche de tweet ne fonctionne toujours pas.

    L'équipe adminsys.

  • Thursday 29 June 2023

    invidious.fdn.fr Invidious : lecture des vidéos impossible

    Chers adhérents, chères adhérentes,

    L'erreur « Can't load the video on this Invidious instance. YouTube is currently trying to block Invidious instances. » survient lors de la lecture d'une vidéo sur notre instance.

    Le ticket 3822 du dépôt Github d'Invidious en parle, c'est un phénomène qui commence à être récurrent, de nombreuses autres instances sont étalements bloquées. Le passage en qualité « DASH », en désactivant le proxy ou en forçant la résolution en IPv4/IPv6 ne changent rien pour nous.

    Le changement d'IPv6 de la VM semble être une solution à envisager.

    L'équipe adminsys

  • Après changement de l'IPv6 depuis cette nuit vers 2:00, l'instance est de nouveau fonctionnelle. Le changement se fait toutes les cinq minutes ;).

    L'équipe adminsys.

  • Monday 26 June 2023

    lns11.fdn.fr Coupures Internet xDSL / FTTH collecte Ielo

    Cher adhérents, chères adhérentes,

    Des pertes de connectivités à Internet en IPv6 ou IPv4 se sont manifestés par des déconnexions et reconnexions régulières ainsi que des possibles soucis d'accessibilité en IPv4 (routage). Nos LNS semblent être en cause et plus particulièrement la partie L2TP. Le processus nous indiquait des erreurs d'allocation mémoire mais sans en trouver la cause précise pour le moment malgré quelques heures de recherches (RAM, slabs, max_size IPv6, optmem_max, nombre de sockets, nombre de routes apprises…).

    Les messages en question :

    For generic netlink request 6 on 24, got a netlink error: No such device
    00/00 DHCPv6: could not join DHCPv6 group: Cannot allocate memory
    00/00 ICMPv6: could not join all routers group: Cannot allocate memory
    
    • 26/06/2023 23:47 : LNS11 a été rétabli pendant une dizaine de minute
    • 27/06/2023 00:00 : LNS22 est rétabli après redémarrage du processus L2TP
    • 27/06/2023 00:12 : de nouveau les dysfonctionnements mais plus d'erreur « Cannot allocate memory », seulement « For generic netlink request 6 on 24, got a netlink error: No such device »
    • 27/06/2023 00:22 : un redémarrage du serveur s'impose car les deux processus L2TP se sont suicidés après avoir voulu les relancer sans l'accélération noyau
    • 27/06/2023 00:28 : LNS22 est de nouveau opérationnel

    À noter que les erreurs « For generic netlink request 6 on 24, got a netlink error: No such device » sont toujours présentent. LNS11 étant isolé, cela va permettre d'approfondir le diagnostics et effectuer des tests.

    Désolé pour ces perturbations :/.

    L'équipe adminsys

  • RAS depuis les changements du 27/06. Ces deux actions ont sans doute permis de stabiliser : ajustement de l'option net.core.optmem_max ainsi que le blocage du compte qui avait pour conséquence de créer/supprimer des interfaces réseau et des routes en boucle.

    L'option net.core.optmem_max a été sauvegardé de façon permanente via notre outil de gestion des configurations ainsi que l'iptables pour l'ajustement du MSS, ce qui évitera les déboires causées en cas de redémarrage du serveur.

    L'équipe adminsys

  • Après quelques debug, nous avons constaté une augmentation de la table des inodes, mais ça semble être seulement du cache, sans incidence. L'erreur « For generic netlink request 6 on 24, got a netlink error: No such device » semble être une fausse piste, c'est la suppression des routes IPv6 mais IPv6CP peut ne pas être activé.

    • 27/06/2023 13:20 : augmentation de la valeur net.core.optmem_max de 1MB à 10MB et blocage des requêtes d'une ligne qui revenait sans cesse dans les logs pouvant solliciter de manière agressive les LNS et causer un effet de bord
    • 27/06/2023 ~21:00 : remontées d'accès à de nombreux sites web, ça ressemble à un problème MTU. Des comptes radius de personnes nous l'ayant remontés sont exclus de l’accélération noyau (tous ceux en %idf), ça fonctionne de nouveau.
    • 27/06/2023 ~23:20 : il ne s'agit pas d'un problème sur la MTU mais sur la MSS. Il est ajusté à 1420 sur les deux LNS et sauvegardé de façon persistante.

    Encore désolé pour ces interruptions et merci à toutes les personnes qui nous ont aidé dans le debug ;). Le sujet reste sous surveillance.

    L'équipe adminsys

  • Tuesday 2 May 2023

    lns11.fdn.fr Coupures xDSL / FTTH et VPN

    Vous aurez probablement remarqué des coupures de l'accès Internet ces derniers temps :

    • le mardi 25 avril matin.
    • depuis dimanche 30 soir.
    • et notamment une grosse coupure ce matin entre 4h et 7h.

    Désolé pour ces coupures, cela ne devait pas se produire ainsi :/.

    Version courte : on essaie d'améliorer le débit disponible des accès Internet, s'il y a des gens qui veulent bien essuyer les plâtres de la mise en œuvre, contactez-moi, sinon jetez simplement ce mail à la poubelle : on est revenus à l'état habituel en fin d'après-midi.

    En version longue, face à l'accroissement de débit utilisé pour les abonnements internet (fibre comme VDSL), il est devenu nécessaire d'activer l'accélération du traitement des lignes par le noyau Linux, car sinon la charge de traitement plafonne et le débit disponible pour les abonné·es se retrouve alors limité.

    Youpi a fait divers tests intensifs sur une maquette, mais comme toujours c'est l'essai en grandeur nature qui montre certains problèmes (en même temps que montrer le gain effectivement énorme : de l'ordre de 10x-20x moins de charge de traitement). Youpi avait repéré un problème mardi, et laissé une seule ligne en observation avec l'accélération de mardi à dimanche, et ne constatant pas de souci, l'accélération pour tout le monde a été activée dimanche soir.

    Mais apparemment il reste un problème qui pour "certaines" lignes et sous "certaines" conditions, rend "certains" sites indisponibles (enfin, "un peu" : le trafic ne passe pas "bien").

    Autrement dit on aurait besoin de volontaires pour qu'on active l'accélération pour leur ligne, et que lorsqu'un tel problème d'accès survient contactez-nous, qu'on puisse observer à tête reposée ce qui se passe pour pouvoir corriger le souci, avant d'activer pour tout le monde.

  • Après quelques corrections de bogues avec la contribution de volontaires, aucun problème n'est constaté, l'accélération a donc été activée pour tout le monde le 27/05/2023 00:00 comme communiqué sur la liste adsl FDN. RAS depuis plus d'une semaine.

    Il est toujours possible de vous exclure de cette accélération si vous rencontrez un problème inhabituel suite à cette activation afin de revenir à l'ancien fonctionnement et constater si c'est lié.

  • Nous ne l'avons pas écrit mais l'impact était : difficulté d'accès à certains sites web (timeout, chargements lents…), micros-coupures Internet, connectivité IPv6 (DHCPv6). En revanche, si vous avez des pertes de synchronisation, ce n'est pas lié ;).

    Quelques nouvelles : l2tpns s'occupe de faire le MSS clamp, ce qui explique effectivement beaucoup les choses avec la MTU réduite par l2tp : si le SYN ou SYN+ACK passe par l2tpns sans accélération, le MSS est bien positionné et toute la connexion passe. Sinon, pas de MSS clamp, et dès que le serveur en face produit des données, ça coince.

    PS : merci à la dizaine de personnes volontaires pour l'activation de l'accélération en noyau et également à ceux nous ayant mis sur la piste de la MTU, ça va nous aider à avancer sur le sujet !

    Les adminsys

  • Monday 1 May 2023

    lns22.fdn.fr LNS : coupure collecte xDSL et FTTH

    Nous avons eu une coupure de la collecte xDSL/FTTH quelques minutes, de 20:00 à 20:10 le 01/05/2023, causé par le redémarrage du serveur LNS22 lors de l'amélioration afin d'ajouter le support de l'accélération noyau dans L2TP (meilleure consommation CPU et parallélisation du traitement des données sur tous les cœurs). LNS11 ayant fait un kernel panic sur le processus L2TP (l2tp_nl_cleanup), nous nous sommes donc retrouvé sans redondance, d'où la coupure le temps du redémarrage du serveur. Veuillez nous excuser pour la gêne occasionnée.

    Amicalement, Les adminsys