Archives de catégorie : Vie de FUNIX

Lutter contre le spam referrer avec awstats

J’exploite les logs de mes domaines hoarau.org et funix.org hébergés avec online (hébergement mutualisé) avec awstats. Toutes les nuits, cron récupère les fichiers log d’Apache sur un serveur ftp et je lance l’analyse avec webalizer et awstats comme expliqué par .

La page des referrers est polluée par des SPAM qui la rend inexploitable et c’est assez pénible. En fait c’est une technique des spammeurs qui font des requêtes pour que le site à promouvoir apparaisse dans la liste et ainsi cela améliore son positionnement sur les moteurs de recherche en multipliant les liens. Encore faudrait-il que cette page soit visible sur internet, ils peuvent également espérer qu’un administrateur clique sur un lien.

Il y a plusieurs techniques pour lutter contre ça, l’une d’entre elles est de leur bloquer l’accès au site avec un bon vieux .htaccess à la racine. Ce n’est pas forcément l’idéal car ça engendre un temps de traitement et ça peut ralentir l’accès au site. J’opte plutôt pour la technique en temps différé pour faire le ménage avec awstats. Pour cela il faut activer la variable suivante

SkipReferrersBlackList= »/etc/awstats/blacklist.txt »

avec un fichier blacklist.txt qu’on trouvera dans l’arborescence d’awstats mais qui date un peu. Alors  par ici on trouvera une blacklist nettement plus récente. Dans ce fichier, d’après mes tests il semblerait que la première partie qui commence par des RewriteCond ne serve à rien pour awstats, elle n’est utile que si vous filtrez le SPAM referrer avec un .htaccess. Ce n’est que la seconde partie qui est réellement utile et qui fonctionne avec awstats,

Continuer la lecture de Lutter contre le spam referrer avec awstats

Connexion chiffrée avec un serveur de mail sur internet

Dans le post précédent on a vu comment chiffrer la liaison entre le serveur de mail local et les postes clients du réseau local, avec dovecot pour la récupération des mails et sendmail pour l’envoi de mail. Mais qu’en est-il de l’envoi ensuite vers internet en émission avec SMTP et en réception avec POP ?

Commençons par la réception, il faut d’abord bien sûr que votre fournisseur de service mail dispose d’un serveur POP avec option de chiffrement TLS/SSL. Jusqu’à présent j’utilisais fetchmail qui tourne sur le serveur de mail local, récupère les mails de tous les utilisateurs du réseau local sur internet et en assure la distribution dans les boîtes mail sous /var/spool/mail avec sendmail. Sauf qu’il semblerait que fetchmail ne sache pas gérer le chiffrement TLS/SSL avec comme MDA (mail delivery agent) sendmail. Du coup j’ai remplacé sendmail comme MDA par procmail et au final la commande fetchmail devient:

[pastacode lang= »markup » manual= »%2Fusr%2Fbin%2Ffetchmail%20–sslcertck%20-a%20-f%20%2Froot%2F.fetchmailrc%20-L%20%2Fvar%2Flog%2Ffetchmail.log » message= » » highlight= » » provider= »manual »/]

avec un fichier .fetchmailrc qui ressemble à ça (pour ne pas faire de pub, je suis chez online)

[pastacode lang= »markup » manual= »poll%20pop.online.net%20protocol%20pop3%0A%20user%20olivier.hoarau%40funix.org%20there%20with%20password%20password-fai%20is%20olivier%20here%0A%20option%20ssl%3B%0A%20mda%20%22mda%20%22%2Fusr%2Fbin%2Fprocmail%20-d%20%25T%22″ message= » » highlight= » » provider= »manual »/]

Passons maintenant à l’émission avec SMTP, là encore il faut que le fournisseur d’accès dispose d’un serveur SMTP sécurisé avec TLS/SSL. J’ai passé des heures à jouer avec la configuration de sendmail pour mettre en place le chiffrement de la connexion jusqu’à  que je me rende compte que la connexion était déjà chiffrée par défaut ! Et pour s’en convaincre il a suffit de lancer sendmail en mode verbeux pour voir les échanges entre mon serveur et le serveur de mon fournisseur d’accès:

sendmail -q -v

voilà le résultat

Continuer la lecture de Connexion chiffrée avec un serveur de mail sur internet

Client mail léger pour connexion sécurisée à distance

Toujours dans l’optique d’une connexion itinérante que j’évoquais dans ce post,  je configure actuellement mon serveur (nommé mana sur mon réseau) et mon portable Thinkpad x220 à cette fin. L’idée est que je puisse recevoir et envoyer mon mail en passant par mon serveur de mail sendmail qui est gréé pour pouvoir gérer les spams et autres virus via SpamAssassin et ClamAV. En attendant de réfléchir  à la mise en place d’un tunnel sécurisé entre le serveur et mon portable via le net, je suis passé à une connexion sécurisée sur la base de SSL/TLS entre les machines clientes de mon réseau et mon serveur pour l’envoi de mail. Jusqu’à présent les échanges de connexion et les mails transitaient en clair sur mon réseau perso sur le port classique 587 du serveur SMTP sendmail. Je suis passé à SMTP avec SSL/TLS et le port 465. A voir par ici cela passe par la création d’un certificat pour le serveur de mail. Alors bien sûr ce certificat n’est strictement valable que sur mon réseau perso et n’est pas valide sur internet, mais ça n’a pas d’importance pour mon usage.

Comme client de messagerie léger, j’ai pensé évidemment à mutt. Mutt est fait pour les geeks, il n’y a pas d’interface graphique et tout se passe en ligne de commande dans un shell, il n’est même pas nécessaire d’avoir un environnement graphique !

Continuer la lecture de Client mail léger pour connexion sécurisée à distance

Sécuriser un poste linux et monitorer un réseau

J’ai passé du temps ces derniers jours à mettre à jour mes pages sur la sécurité informatique autour de linux sur mon site Funix, il était temps, certaines n’avaient pas évolué depuis 8 ans !

La sécurité sous linux et plus généralement sur un réseau peut être vue sous différents angles:

  • tout d’abord la protection du poste en lui même en laissant tourner que le strict nécessaire, en privilégiant les services sécurisés et en installant un firewall, Tout cela est décrit dans cette page.
  • ensuite on peut installer un gestionnaire d’évènements de sécurité comme Prelude, qui va agréger tous les signaux et évènements du système et déclencher des alertes de sécurité, libre ensuite à l’administrateur de déclencher les actions qui vont bien. Ce système connu sous le terme de SIEM (Security Event Information Management) repose sur plusieurs sondes qui peuvent être implantées sur l’ensemble des postes du réseau et éléments actifs compatibles. A découvrir sur cette page. Concernant les sondes, certaines vont analyser les fichiers de logs, d’autres vont « écouter » le réseau en temps réel et détecter les tentatives intrusions, on parle également de NIDS (network Intrusion Detection System) comme snort ou suricata qu’on peut découvrir sur cette autre page.
  • pour sécuriser son réseau/poste encore faudrait-il connaître ses vulnérabilités, rien de plus simple ! Il existe des scanners de vulnérabilités, ils se basent sur des bases de données de vulnérabilités régulièrement mises à jour pour scruter les postes et faire leur reporting. A voir par avec des outils comme OpenVAS et nmap. Ces outils ont un but défensif et il est malheureux qu’ils puissent être également utilisés à des fins malveillantes et offensives.
  • la protection des données est un pan important de la sécurité, notamment lors des échanges sur internet. On peut donc chiffrer ses données et mail avec GnuPG et faire des connexions sécurisées via OpenSSH qui offre également un service de transfert de fichier sécurisé sFTP qui remplace avantageusement FTP.
  • même si sous linux on est beaucoup moins vigilant pour les virus qui envahissent le monde windows, il en reste pas moins qu’il en existe ! La séparation des privilèges de base sur un système linux avec les précautions évoquées ici pourront contenir le risque, néanmoins il n’est pas inutile d’installer un antivirus comme ClamAV.

Et pour terminer une copie d’écran du scanner de vulnérabilités OpenVAS qui est un fork libre de nessus.

Skype et autres bafouilles sous linux

Depuis quelque temps j’avais perdu le son sous Skype bien que disposant de la dernière version pour linux, la 4.0.37 qu’on peut récupérer par ici. En fait curieusement le binaire est toujours en version 32 bits, comme le confirme la commande file skype qui donne:

/usr/local/linux/systeme/skype-4.3.0.37/skype: ELF 32-bit LSB shared object, Intel 80386, version 1 (SYSV), dynamically linked, interpreter /lib/ld-linux.so.2, for GNU/Linux 2.6.18, BuildID[sha1]=6eef9a3f7c9719980b6e317a00ea971d3717ac89, stripped

pour que le son revienne sur une configuration 64 bits il faudra simplement installer la version 32 bits du serveur de son pulseaudio (libpulseaudio0 pour une distribution Mageia). Et là magique Skype est pleinement fonctionnel (au problème de réseau près indépendant de linux).

Tant qu’à faire, je profite d’un peu de temps pour régler des problèmes qui perduraient depuis des mois sur mon serveur perso Dell PowerEdge T310. Premier problème, le serveur d’authentification de mon réseau perso basé sur un annuaire LDAP tournant avec OpenLDAP était extrêmement bavard et me générait continuellement dans les logs ce type d’erreur :

déc. 23 19:25:06 mana.kervao.fr slapd[12893]: <= bdb_equality_candidates: (uidNumber) not indexed
déc. 23 19:25:07 mana.kervao.fr slapd[12893]: <= bdb_equality_candidates: (uidNumber) not indexed
déc. 23 19:25:07 mana.kervao.fr slapd[12893]: <= bdb_equality_candidates: (uidNumber) not indexed

j’ai vu que c’était un problème connu et largement commenté sur le net, pourtant la solution proposée ne collait pas à ma configuration.  Pour le problème de mode verbeux, il faut reprendre le fichier de configuration du daemon slapd slapd.conf et rajouter simplement

loglevel none

pour l’autre problème, toujours dans le même fichier à la suite de

# Indices to maintain
index   objectClass     eq

on va déclarer d’autres index pour la base de données LDAP

index  uid              pres,sub,eq
index member            eq
index  uidNumber        eq
index  gidNumber        eq
index  memberUid        eqhttp://www.funix.org/fr/linux/index.php?ref=ldap2

on relance le serveur et le tour est joué !

Autre problème, cette fois-ci avec le serveur de mail sendmail ou plutôt avec le plugin qui gère l’interface avec SpamAssassin qui filtre les spams comme son nom l’indique. Toujours dans les logs, SpamAssassin Milter (mail filter) plugin me génère cette erreur :

spamass-milter[2246]: Could not retrieve sendmail macro « i »!.  Please add it to confMILTER_MACROS_ENVFROM for better spamassassin results

Dans le fichier config.mc de sendmail j’ai rajouté un petit i sur cette ligne

define(`confMILTER_MACROS_ENVFROM’,`i, {auth_authen}, {auth_type}’)dnl

on génère un nouveau fichier de configuration de sendmail et dans ce fichier on rajoute

O Milter.macros.envfrom=i
O Milter.macros.envfrom=i, {auth_authen}, {auth_type}

on relance sendmail et c’est terminé ! Ouf, je vais pouvoir dormir plus sereinement…

Pour plus d’infos, voir ma page sur l’authentification utilisateur basé sur un serveur LDAP et celle sur le filtrage de mail.

 

Mise à jour de Funix.org

J’ai procédé à une mise à jour de ma mageia Cauldron qui préfigure la future mageia 6, un peu moins de 1200 packages d’un coup ! Et finalement pas beaucoup de soucis mais des améliorations, j’ai retrouvé mes avatars au login et la session est correctement sauvegardée et restaurée. Il subsiste encore du franglais à droite et à gauche et plus gênant on ne peut toujours pas faire du copier/coller avec la souris avec vi dans un terminal de type konsole.

Du coup j’ai réinstallé par compilation toute ma batterie de logiciels multimedia. Je déplore encore des lenteurs avec kdenlive 16.12 qui n’existaient pas du tout dans la version Qt4. Pour tenter d’y remédier j’ai installé manuellement la dernière version du driver de ma carte vidéo Nvidia GeForce 760, mais ce n’est pas mieux, kdenlive utilise par défaut la CPU et non le GPU (processeur de la carte vidéo).

Tant qu’à faire j’ai mis à jour mon site funix avec les modifications suivantes:

– page outils de base pour la vidéo, présentation du codec audio FDK AAC, passage à x264-snapshot-20161219-2245, movit 1.4.0 et ffmpeg 3.2.2
– page transcodage vidéo, passage à avidemux 2.6.14
– page conteneur vidéo, passage à mkvtoolnix 9.6.0
– page lecteur vidéo, quelques précisions pour l’installation de la version en développement 3.0.0 de vlc
– page montage vidéo, passage à mlt 6.4.1, kdenlive 16.12, LiVES 2.8.2, cinelerra 6 et blender 2.78a
– page outils multimedia pour mediacenter, passage à audacious 3.8.1

L’évolution de movit pour utiliser la puissance du GPU avec kdenlive ne donne rien, ça continue à planter avec ma nvidia. cinelerra a évolué, mais à part l’intégration du codec H264, je ne vois pas beaucoup d’autres évolutions, en tout cas la compilation est toujours aussi délicate.

Windows 7 Pro sous linux dans un espace virtualisé avec VirtualBox

Je croule sous les PC à la maison, 8 au total (voir mes différentes config par ) ! Je me suis décidé à en réduire le nombre. Certains ont une double partition avec windows mais ce n’est quand même pas très pratique de basculer de windows à linux ou vice-versa. Je me suis remis à la page en virtualisant windows sous linux, ça me permet ainsi de pouvoir regrouper les applications qu’elles tournent sous windows ou linux sur les mêmes postes. La virtualisation consiste à pouvoir lancer un système d’exploitation encapsulé dans un autre système d’exploitation support.

j’ai installé la dernière version de VirtualBox sur ma mageia 6 cauldron à partir des sources, ça s’installe relativement facilement et ça se configure tout aussi facilement. Il faut bien sûr disposer d’un DVD d’installation de windows avec sa licence, étant allergique aux dernières versions à brique, je suis resté à windows 7. Aussi incroyable que ça puisse paraître on arrive donc à installer windows dans une fenêtre. Puis à le lancer de manière tout à fait naturel dans une session linux.

Ça nécessite bien sûr un peu de puissance, mais quand on n’est pas un joueur, ça le fait sans soucis.

Passage à Mageia 6 Cauldron

Récemment j’avais évoqué dans un post mon passage aux logiciels de montage vidéo sous linux OpenShot Video Editor 2.1 et kdenlive 16.08.1. Il s’avère en fait que ça marchait quand même pas très bien, hyper lent voire inutilisable pour le premier et aucune sortie vidéo pour le second ! J’avais laissé tomber pour OpenShot  et j’ai dû me résoudre à downgrader kdenlive. Je suis persuadé que mes soucis viennent de versions boguées des packages de KDE Framework 5 (KF5) de ma Mageia 5 que j’avais installés pour pouvoir utiliser les versions récentes de kdenlive qui ne fonctionnent que sous KF5 (cf. ce post). Pied au mur même si je n’aime pas du tout utiliser une version instable, j’ai fait une mise à jour vers Mageia 6 Cauldron. C’est assez simple à faire, on supprime d’abord tous les dépôts de la Mageia 5:

urpmi.removemedia -a

on rajoute ceux de la Mageia 6

urpmi.addmedia –distrib –mirrorlist ‘http://mirrors.mageia.org/api/mageia.6.$ARCH.list’

on fait une simulation d’installation en tapant

urpmi –replacefiles –auto-update –auto –download-all –test

s’il n’y a pas d’erreur, on lance alors la commande suivante

urpmi –replacefiles –auto-update –auto –download-all

et là surprise, tout a à l’air de fonctionner, l’authentification par serveur LDAP, l’automontage, l’imprimante Canon Pixma IP3600, le scanner Epson perfection v30, la tablette XL ThinLine (voir par ) et tout le reste. J’étais resté sur le souvenir de mise à jour désastreuse avec la Mandrake. Du coup pour les changements de version, je partais toujours d’une install « vierge » en conservant juste les partitions de données. J’ai toutefois un peu galéré pour refaire fonctionner ma batterie de logiciels multimédia car mon PC est avant tout une station de montage vidéo. Il faut dire que j’avais gardé les répertoires des binaires et bibliothèques de ma Mageia 5 sous /usr/local/bin et /usr/local/lib. La Mageia 6 m’avait installé les headers de ffmpeg et autres bibliothèques qui rentraient en conflit avec mes propres installations avec les sources. Au final melt me renvoyait un segmentation fault et kdenlive plantait. J’ai bien tenté d’installer le package mlt de la Mageia, kdenlive fonctionne bien, mais il est toutefois dommage qu’il y ait un tas de fonctionnalités qui ne soient pas compilées de base. On s’étonne ensuite que les gens se plaignent qu’il y ait un tas de fonctions qui ne marchent pas sous kdenlive ensuite. Je ne pouvais donc pas rester en l’état.

J’ai supprimé tout ce qu’il y avait sous /usr/local et j’ai recommencé à zéro à tout recompiler, j’ai pris soin également de supprimer des headers comme ceux de ffmpeg (avec parfois l’option –nodeps de rpm). En prenant ces précautions kdenlive 16.08.2 marche sans problème, pour OpenShot Video Editor j’ai encore un soucis d’interfaçage avec blender qu’il ne trouve pas. Quelques logiciels m’ont posé pas mal de soucis comme l’outil de montage vidéo cinelerra, d’animation 2D SynfigStudio, et lecteur audio/gestionnaire bibliothèque audio Clementine mais grosso modo tout refonctionne à nouveau.

Il y a encore quelques détails gênants qui ne fonctionnent pas correctement ou pas du tout

  • le copier/coller à partir de ou vers un shell avec vi ne fonctionne pas, c’est super pénible
  • le vidage de ma GoPro ne fonctionne plus par USB, j’ai droit à une erreur d’entrée/sortie systématique, je suis obligé d’enlever ma carte microSD pour la mettre dans un adaptateur SD
  • il y a du franglais un peu partout
  • pas moyen de mettre les faces icônes avec le gestionnaire de connexion SDDM

Mais bon globalement, quitte à me répéter, ça marche plutôt bien et ça augure d’une excellente mouture de Mageia. Il reste toutefois du travail dans les détails de finition.

J’ai mis à jour mon site funix, et en particulier les pages suivantes, ça vous donnera une idée des modifications à apporter pour les installer sous Mageia 6.

– page outils de base pour la vidéo, passage à x264-snapshot-20161007-2245, x265 2.1, et OpenCV 3.1.0 et ffmpeg 3.1.4, suppression de libfame, mjpegtools, libquicktime et libaac devenus obsolètes
– page transcodage vidéo, passage à avidemux 2.6.14, HandBrake 0.10.5
– page conteneur vidéo, passage à libmatroska 1.4.5 et mkvtoolnix 9.5.0
– page lecteur vidéo, passage à libdvdread 5.0.3, vlc 2.2.4 et MPlayer 1.3.0
– page montage vidéo, passage à kdenlive 16.08.2, LiVES 2.8.0, OpenShot Video 2.1 et blender 2.78
– page outils multimedia pour mediacenter, passage à audacious 3.8 et kodi 16.1

OpenShot Video 2.1

J’ai installé la dernière version du logiciel de montage vidéo sous linux OpenShot Video 2.1.0. Honnêtement je n’ai pas trop vu la révolution par rapport à la dernière version 1.4.3, ça reste assez basique et avec beaucoup moins de fonctionnalités que la référence sous linux kdenlive. L’installation sur ma mageia 5 à partir des sources et assez ardu, d’autant qu’il faut installer également la dernière version du logiciel de manipulation 3D blender.

Il faut que j’aille plus loin dans son utilisation, mais je rencontre des problèmes de lenteur qui m’étonne sur mon i7. Tant qu’à faire j’ai installé la dernière version des bibliothèques vidéo standards sous linux, OpenCV 3.1.0, ffmpeg 3.1.4, ainsi que kdenlive 16.08.1. Malheureusement je n’ai aucune sortie vidéo ! J’ai beau installé les dernières versions en développement de mlt et frei0r, c’est pareil. Finalement j’ai du downgrader avec la version 16.04.0.

Du coup j’ai mis à jour mon site funix avec les modifications suivantes:

– page outils de base pour la vidéo, passage à x264-snapshot-20161007-2245, x265 2.1, et OpenCV 3.1.0 et ffmpeg 3.1.4
– page transcodage vidéo, passage à avidemux 2.6.14 et HandBrake 0.10.5
– page conteneur vidéo, passage à libmatroska 1.4.5 et mkvtoolnix 9.4.2
– page lecteur vidéo, passage à libdvdread 5.0.3, vlc 2.2.4 et MPlayer 1.3.0
– page montage vidéo, passage à kdenlive 16.08.1, LiVES 2.8.0, OpenShot Video 2.1 et blender 2.78

– page outils multimedia pour mediacenter, passage à audacious 3.8 et kodi 16.1

kdenlive 16.04.0

J’ai installé la dernière version de kdenlive, à savoir la 16.04.0. Elle est présentée comme étant une version majeure de ce logiciel de montage vidéo. Elle corrige un certain nombre de bogues et autres instabilités.

Lors de l’installation j’ai remis à jour l’ensemble des bibliothèques, j’ai juste eu une incompatibilité entre la version 3.0.2 de ffmpeg et OpenCV 3.1.0 qui m’a obligé à rester à la version 3.0.0 d’OpenCV. Je suis passé également à la version 6.2.0 de mlt. A voir donc la page sur les bibliothèques vidéo ainsi que celle sur le montage vidéo sur mon site FUNIX.

Voilà un projet chargé avec cette dernière version:

kdenlive16-04Les évolutions marquantes sont:

dans le champ moniteur

  • un champ timecode (le curseur de temps) a fait son apparition dans la fenêtre de moniteur de clip et de projet. Ça peut être utile pour se repérer finement d’autant qu’on peut faire bouger le curseur par unité de 50eme de seconde.
  • les marqueurs de début et de fin de zone du moniteur de clip peuvent maintenant être déplacés à la souris.
  • on peut choisir un effet dans le champ correspondant (cf. copie d’écran) et le glisser dans la fenêtre de moniteur (clip ou projet) pour que celui-ci soit appliqué.
  • dans le champ moniteur on peut voir le niveau audio du clip ou du projet
  • on peut également afficher le nombre d’images par seconde (fps) par le menu accessible avec le bouton droit de la souris (Current Monitor Overlay->Monitor Overlay Timecode)

dans le champ de la timeline

  • rajout d’une fonction « match frame », si vous placez le curseur sur la timeline et en choisissant dans le menu accessible avec le bouton droit Clip in project bin le moniteur renvoie directement sur la même image du clip original

dans le champ effet

  • rajout d’un bouton « split compare », c’est assez génial car il permet dans le moniteur d’avoir la moitié de la vue avec l’effet et l’autre moitié sans effet, très pratique !
  • maintenant on a enfin du son quand on joue avec l’effet de ralentissement/accélération de la vidéo. Auparavant j’étais obligé de passer par OpenShot Video pour pouvoir le faire en réimportant ensuite ma séquence vidéo.
  • on peut mettre les effets qu’on utilise le plus souvent en favoris facilement accessibles en le sélectionnant puis à partir du bouton droit de la souris Add Effect to Favorites.

dans le menu project

  • apparition d’une fonction intéressante pour pouvoir intégrer un compteur à sa vidéo (Project->Generator->Counter)counterde la même manière on peut rajouter une mire TV ou du bruit de fond, utile pour créer un générique.
  • dans les titres, on peut rajouter un gradient de couleur, ainsi qu’une ombre portée.
  • à noter également qu’on peut maintenant copier un clip (Duplicate Clip), très utile pour les titres.