Suite à de nouveaux changements côté Twitter (encore…), toutes les instances sont bloquées car la consultation des tweets nécessite à un compte. Le problème est identifié sur le Git de Nitter, ticket 983. La recherche ne fonctionne également pas.
L'équipe adminsys
Suite à de nouveaux changements côté Twitter (encore…), toutes les instances sont bloquées car la consultation des tweets nécessite à un compte. Le problème est identifié sur le Git de Nitter, ticket 983. La recherche ne fonctionne également pas.
L'équipe adminsys
Certains adhérents nous ont remontés que certaines destinations pouvaient être injoignables, aussi bien en HTTP/HTTPS, Ping ou SSH. Exemples non exhaustifs : irc.geeknode.org, github.com, linuxfr.org, sa.debian.org…).
Vers 23:30 le 23/07/2023 les quelques adhérents ayant le problèmes ont été exclu de l'accélération noyau L2TP.
Le défaut semble se situer dans la gestion de la route retour entre les LNS. Exemple : routeur adh > LNS11 > GWx > LNS22. En désactivant l'accélération sur LNS22, le défaut disparaît.
L'accélération noyau a été laissé active afin que le mainteneur L2TPNS puisse investiguer. Si vous rencontrez un problème similaire, n'hésitez pas à nous en faire part par e-mail via support (a) fdn.fr ou via les messageries instantanées IRC/Matrix.
L'équipe adminsys
La supervision a été mise en place le 21/08 dans la nuit. Ainsi dans le cas où le nombre de tunnel pour chaque LNS vers les LAC Ielo n'est pas strictement 4, on recevra un e-mail pour agir.
Un ajout de logs dans L2TPNS en cas de souci pour avoir plus de billes lors de la création des tunnels L2TP a été rajouté et une tentative de correction de ce bug hypothétique également.
Nous soupçonnons de plus en plus un bug dans la gestion des tunnels L2TP au sein du cluster :
Quelques anciens tunnels L2TP fantômes vus par le noyau mais pas par L2TPNS ont été constaté sur LNS22 (secondaire), ce qui est visiblement sans incidence mais peut-être également un bug.
L'accélération a été réactivée sur les deux LNS pour tout le monde vers 14:30 en incluant les modifications indiqués plus haut.
L'équipe adminsys FDN
Le problème semble aléatoire mais ne se produire que sur le LNS22 qui est le secondaire et avec l'accélération noyau Linux active sur les deux LNS. Nous avons de quoi mettre en place une supervision pour détecter et agir pour corriger, le temps de trouver l'origine de la panne.
Hypothèses :
Dans le fonctionnement on a un mirroir dans le noyau Linux des tunnels l2tp du l2tpns et quand le problème se manifeste sur LNS22 toutes les sessions qui sont sur le tunnel en défaut sont à destination d'une des deux IP du LAC Ielo, ce qui ne devrait pas arriver. Chaque LNS a 4 tunnels : 1 tunnel vers chacun des deux IP des LAC Ielo et deux autre depuis l'IP de l'autre LNS.
La supervision va être mise en place sous peu.
L'équipe adminsys FDN
Il s'agit peut-être d'un bug dans L2TPNS ou dans le noyau Linux qui se manifeste parfois et pas pour tout le monde.
Actuellement, l'accélération est désactivé sur LNS22 mais active sur LNS11 car aucune erreur n'a été constaté sur ce dernier.
L'équipe adminsys
L'accélération est uniquement active pour un adhérent afin de permettre de creuser et trouver la cause.
Chers adhérents, chères adhérentes,
Nous subissons un incident qui impact les FTTH collectées via Axione.
Nous n'avons pas plus d'information pour le moment.
L'équipe adminsys
La panne a été corrigée par Axione vers 15:40, la cause est un script ayant mis la configuration BGP en défaut, d'où le problème d'annonce des routes.
12:51 : dam64 a mis une rustine en place, en attendant qu'Axione fassent le nécessaire (Aquilenet ne recevait plus de routes de leur part). Suite à la rustine, les lignes FTTH sont remontées.
Suite à de récents changement côté Twitter, toutes les instances sont bloquées car la consultation des tweets nécessite à présent un compte. Le problème est identifié sur le Git de Nitter, ticket 919
Aucune solution pour le moment.
L'équipe adminsys
03:50 : l'instance a été mise à jour afin de corriger la recherche de Tweets. Tout est désormais fonctionnel !
Depuis 16:51, l'instance est de nouveau opérationnelle après mise à jour afin d'inclure les changements de la pull request #927.
Seule la recherche de tweet ne fonctionne toujours pas.
L'équipe adminsys.
Chers adhérents, chères adhérentes,
L'erreur « Can't load the video on this Invidious instance. YouTube is currently trying to block Invidious instances. » survient lors de la lecture d'une vidéo sur notre instance.
Le ticket 3822 du dépôt Github d'Invidious en parle, c'est un phénomène qui commence à être récurrent, de nombreuses autres instances sont étalements bloquées. Le passage en qualité « DASH », en désactivant le proxy ou en forçant la résolution en IPv4/IPv6 ne changent rien pour nous.
Le changement d'IPv6 de la VM semble être une solution à envisager.
L'équipe adminsys
Cher adhérents, chères adhérentes,
Des pertes de connectivités à Internet en IPv6 ou IPv4 se sont manifestés par des déconnexions et reconnexions régulières ainsi que des possibles soucis d'accessibilité en IPv4 (routage). Nos LNS semblent être en cause et plus particulièrement la partie L2TP. Le processus nous indiquait des erreurs d'allocation mémoire mais sans en trouver la cause précise pour le moment malgré quelques heures de recherches (RAM, slabs, max_size IPv6, optmem_max, nombre de sockets, nombre de routes apprises…).
Les messages en question :
For generic netlink request 6 on 24, got a netlink error: No such device
00/00 DHCPv6: could not join DHCPv6 group: Cannot allocate memory
00/00 ICMPv6: could not join all routers group: Cannot allocate memory
Cannot allocate memory
», seulement « For generic netlink request 6 on 24, got a netlink error: No such device
»À noter que les erreurs « For generic netlink request 6 on 24, got a netlink error: No such device
» sont toujours présentent.
LNS11 étant isolé, cela va permettre d'approfondir le diagnostics et effectuer des tests.
Désolé pour ces perturbations :/.
L'équipe adminsys
RAS depuis les changements du 27/06. Ces deux actions ont sans doute permis de stabiliser : ajustement de l'option net.core.optmem_max
ainsi que le blocage du compte qui avait pour conséquence de créer/supprimer des interfaces réseau et des routes en boucle.
L'option net.core.optmem_max
a été sauvegardé de façon permanente via notre outil de gestion des configurations ainsi que l'iptables pour l'ajustement du MSS, ce qui évitera les déboires causées en cas de redémarrage du serveur.
L'équipe adminsys
Après quelques debug, nous avons constaté une augmentation de la table des inodes, mais ça semble être seulement du cache, sans incidence.
L'erreur « For generic netlink request 6 on 24, got a netlink error: No such device
» semble être une fausse piste, c'est la suppression des routes IPv6 mais IPv6CP peut ne pas être activé.
net.core.optmem_max
de 1MB à 10MB et blocage des requêtes d'une ligne qui revenait sans cesse dans les logs pouvant solliciter de manière agressive les LNS et causer un effet de bordEncore désolé pour ces interruptions et merci à toutes les personnes qui nous ont aidé dans le debug ;). Le sujet reste sous surveillance.
L'équipe adminsys
Vous aurez probablement remarqué des coupures de l'accès Internet ces derniers temps :
Désolé pour ces coupures, cela ne devait pas se produire ainsi :/.
Version courte : on essaie d'améliorer le débit disponible des accès Internet, s'il y a des gens qui veulent bien essuyer les plâtres de la mise en œuvre, contactez-moi, sinon jetez simplement ce mail à la poubelle : on est revenus à l'état habituel en fin d'après-midi.
En version longue, face à l'accroissement de débit utilisé pour les abonnements internet (fibre comme VDSL), il est devenu nécessaire d'activer l'accélération du traitement des lignes par le noyau Linux, car sinon la charge de traitement plafonne et le débit disponible pour les abonné·es se retrouve alors limité.
Youpi a fait divers tests intensifs sur une maquette, mais comme toujours c'est l'essai en grandeur nature qui montre certains problèmes (en même temps que montrer le gain effectivement énorme : de l'ordre de 10x-20x moins de charge de traitement). Youpi avait repéré un problème mardi, et laissé une seule ligne en observation avec l'accélération de mardi à dimanche, et ne constatant pas de souci, l'accélération pour tout le monde a été activée dimanche soir.
Mais apparemment il reste un problème qui pour "certaines" lignes et sous "certaines" conditions, rend "certains" sites indisponibles (enfin, "un peu" : le trafic ne passe pas "bien").
Autrement dit on aurait besoin de volontaires pour qu'on active l'accélération pour leur ligne, et que lorsqu'un tel problème d'accès survient contactez-nous, qu'on puisse observer à tête reposée ce qui se passe pour pouvoir corriger le souci, avant d'activer pour tout le monde.
Après quelques corrections de bogues avec la contribution de volontaires, aucun problème n'est constaté, l'accélération a donc été activée pour tout le monde le 27/05/2023 00:00 comme communiqué sur la liste adsl FDN. RAS depuis plus d'une semaine.
Il est toujours possible de vous exclure de cette accélération si vous rencontrez un problème inhabituel suite à cette activation afin de revenir à l'ancien fonctionnement et constater si c'est lié.
Nous ne l'avons pas écrit mais l'impact était : difficulté d'accès à certains sites web (timeout, chargements lents…), micros-coupures Internet, connectivité IPv6 (DHCPv6). En revanche, si vous avez des pertes de synchronisation, ce n'est pas lié ;).
Quelques nouvelles : l2tpns s'occupe de faire le MSS clamp, ce qui explique effectivement beaucoup les choses avec la MTU réduite par l2tp : si le SYN ou SYN+ACK passe par l2tpns sans accélération, le MSS est bien positionné et toute la connexion passe. Sinon, pas de MSS clamp, et dès que le serveur en face produit des données, ça coince.
PS : merci à la dizaine de personnes volontaires pour l'activation de l'accélération en noyau et également à ceux nous ayant mis sur la piste de la MTU, ça va nous aider à avancer sur le sujet !
Les adminsys
Nous avons eu une coupure de la collecte xDSL/FTTH quelques minutes, de 20:00 à 20:10 le 01/05/2023, causé par le redémarrage du serveur LNS22 lors de l'amélioration afin d'ajouter le support de l'accélération noyau dans L2TP (meilleure consommation CPU et parallélisation du traitement des données sur tous les cœurs). LNS11 ayant fait un kernel panic sur le processus L2TP (l2tp_nl_cleanup), nous nous sommes donc retrouvé sans redondance, d'où la coupure le temps du redémarrage du serveur. Veuillez nous excuser pour la gêne occasionnée.
Amicalement, Les adminsys