4337 links
  • Arnaud's links
  • Home
  • Login
  • RSS Feed
  • ATOM Feed
  • Tag cloud
  • Picture wall
  • Daily
Links per page: 20 50 100
◄Older
page 95 / 217
Newer►
  • thumbnail
    etsy/logstash-forwarder

    un listener qui permet d'envoyer un seul evenement logstash pour plusieurs lignes de logs.

    Si on a la main sur le code source, c'est quand meme plus simple de logger en json : 1 ligne = 1 event

    Dans ce cas on peut utiliser le plugin imfile de rsyslog pour surveiller le fichier et envoyer les events :)

    December 11, 2014 at 2:57:39 PM GMT+1 - permalink - archive.org - https://github.com/etsy/logstash-forwarder
    log logstash
  • Un peu de réseau et de debug udp
    Prenons une application ouvre une socket UDP : pour chaque paquet qui arrive, elle va le traiter et passer au suivant. Si le traitement est plus cours que la cadence de reception, tout va bien, on peut travailler en "flux tendu". Pour éviter de perdre des paquets si l'application est trop lente, le kernel entretien des buffers qui ont une taille par defaut et une taille max.

    Pour consulter :
    # sysctl net.core.rmem_default
    # sysctl net.core.rmem_max
    # sysctl net.ipv4.udp_mem
    # net.core.netdev_max_backlog


    En cas de probleme, on peut augmenter la taille de ce buffer. (temporairement avec commande ou /proc/... et définitivement avec /etc/systcl.d/
    sysctl -w net.core.rmem_default=20000000
    sysctl -w net.core.rmem_max=30000000
    sysctl -w net.ipv4.udp_mem='262144 327680 393216'
    sysctl -w net.core.netdev_max_backlog=2000



    Comment savoir qu'on a des drop udp ?

    netstat -su

    Sinon il y a /proc/net/udp qui contient une ligne par socket udp avec le port (attention en hexadecimal), la taille du buffer utilisé, (s'inquiéter si rxqueue est différent de zéro) et enfin la dernière colonne, les drops !

    alors si vous avez des drops, il faut revoir l'application,.
    Augmenter la taille du buffer est utile seulement si ces drops sont du à des "burst" (des pics d'activité qui n'arrivent pas souvent), un plus grand buffer permettra d'absorber ces pics !


    En encore plus interactif : netstat -c --udp -an

    todo : trouver les commandes équivalentes avec ss

    https://github.com/etsy/statsd/issues/318
    https://www.assembla.com/spaces/LogZillaWiki/wiki/UDP_Buffers
    http://answers.splunk.com/answers/7001/udp-drops-on-linux.html
    December 10, 2014 at 3:51:28 PM GMT+1 * - permalink - archive.org - https://links.infomee.fr/?AyHsGA
    drop kernel linux network networking reseau udp
  • Mis apuntes de.. Raspberry Pi entre otros

    ah genial pour balancer du stream sur la tv!

    November 27, 2014 at 9:37:02 PM GMT+1 - permalink - archive.org - http://misapuntesde.com/post.php?id=232
    rasp twitch
  • thumbnail
    Performance Tuning&Tests for the Elasticsearch Output

    Pour envoyer direct dans ES depuis rsyslog

    (se passer de logstash devient donc possible dans certains cas)

    November 27, 2014 at 10:57:15 AM GMT+1 - permalink - archive.org - http://www.rsyslog.com/performance-tuning-elasticsearch/
    elasticsearch logstash rsyslog
  • thumbnail
    How can I view all historical changes to a file in SVN - Stack Overflow

    Sympa la fonction dans les commentaires, mais pour un gros historique, penser à rajouter un "-l 3" au svn log pour avoir seulement l'historique des 3 derniers changements.

    La version modifée avec le "-l 3" :

    !/bin/bash

    history_of_file

    #

    Outputs the full history of a given file as a sequence of

    logentry/diff pairs. The first revision of the file is emitted as

    full text since there's not previous version to compare it to.

    function history_of_file() {
    url=$1 # current url of file
    svn log -l 3 -q $url | grep -E -e "^r[[:digit:]]+" -o | cut -c2- | sort -n | {

    first revision as full text

        echo
        read r
        svn log -r$r $url@HEAD
        svn cat -r$r $url@HEAD
        echo

    remaining revisions as differences to previous revision

        while read r
        do
            echo
            svn log -r$r $url@HEAD
            svn diff -c$r $url@HEAD
            echo
        done
    }

    }

    history_of_file $1

    November 26, 2014 at 2:05:56 PM GMT+1 - permalink - archive.org - http://stackoverflow.com/questions/282802/how-can-i-view-all-historical-changes-to-a-file-in-svn
    history svn
  • Kibana4 liste de fields

    Dans la vue Discover de Kibana4, si vous ne voyez pas tous les champs d'une entrée....

    Tentez cette manip' : Settings > Indices > Select your indice (logstash-*) > then refresh..

    Cette liste a parfois du mal à se rafraichir si il y a trop de documents/de champs (PS : plusieurs heureuse de debug sans résultat, la solution m'a été donnée sur irc : freenode#kibana) thx rashidkpc

    November 25, 2014 at 3:52:11 PM GMT+1 - permalink - archive.org - https://links.infomee.fr/?ANfw7A
    field kibana
  • Plugins

    Le système de plugin d'elasticsearch est vraiment bien foutu.

    Quelques plugins sympa pour avoir un aperçu de la santé de son cluster :
    https://github.com/karmi/elasticsearch-paramedic
    https://github.com/mobz/elasticsearch-head
    https://github.com/lukas-vlcek/bigdesk

    Pour les installer, c'est à chaque fois pareil, en une ligne :
    /usr/share/elasticsearch/bin/plugin -install lukas-vlcek/bigdesk
    /usr/share/elasticsearch/bin/plugin -install karmi/elasticsearch-paramedic
    /usr/share/elasticsearch/bin/plugin -install mobz/elasticsearch-head

    Pour savoir quels plugins sont installés et par quelle urls y accéder :
    curl -s -XGET 'http://localhost:9200/_nodes?pretty' | grep plugin

    November 23, 2014 at 1:52:01 PM GMT+1 - permalink - archive.org - http://www.elasticsearch.org/guide/en/elasticsearch/reference/current/modules-plugins.html
    elasticsearch plugin plugins
  • acquia/graphite-cassandra-plugin

    via skunnyk

    November 20, 2014 at 11:04:33 AM GMT+1 - permalink - archive.org - https://github.com/acquia/graphite-cassandra-plugin
    backend cassandra graphite
  • rate limiting

    rsyslog intègre une limitation soft pour ne pas pourrir les IO en cas de mass logs non voulus

    Dans certains cas les valeurs par défaut sont un peu faible, suffit de les up un peu en surveillant les io disk ;)

    November 19, 2014 at 4:07:18 PM GMT+1 - permalink - archive.org - http://www.rsyslog.com/tag/rate-limiting/
    io nginx
  • thumbnail
    linux - Add up a column of numbers at the Unix shell - Stack Overflow

    | awk '{total = total + $1}END{print total}'

    find . ! -newer /tmp/file2015 -exec ls -l --block-size=M {} \; |cut -d' ' -f5|sed 's/M//'| awk '{total = total + $1}END{print total}'

    November 19, 2014 at 2:54:22 PM GMT+1 * - permalink - archive.org - http://stackoverflow.com/questions/926069/add-up-a-column-of-numbers-at-the-unix-shell
    add awk count sum total
  • Bash Initialisation Files

    via skunnyk

    November 19, 2014 at 2:03:54 PM GMT+1 - permalink - archive.org - http://www.solipsys.co.uk/new/BashInitialisationFiles.html
    bash intialisation
  • Elasticsearch "Yellow" cluster status explained | Chris Simpson - Software Developer

    Je me demandais pourquoi le status de mes index étaient à yellow, en fait c'est tout à fait normal dans un cluster mono node :-)

    November 19, 2014 at 1:26:07 PM GMT+1 - permalink - archive.org - http://chrissimpson.co.uk/elasticsearch-yellow-cluster-status-explained.html
    elasticsearch
  • Unicode Text Converter

    fun :D

    November 19, 2014 at 1:14:20 PM GMT+1 - permalink - archive.org - http://www.panix.com/~eli/unicode/convert.cgi?text=Bonjour+madame
    unicode
  • thumbnail
    Welcome to Attic — Attic - Deduplicating Archiver 0.13 documentation

    Découverte sympa, même si je reste fan de rsnapshot et de ses hardlink

    • http://anarcat.koumbit.org/2014-11-18-bup-vs-attic-silly-benchmark
    • http://blog-libre.org/post/2014/11/19/attic-backup-le-grenier-incrementiel
    November 19, 2014 at 1:03:40 PM GMT+1 - permalink - archive.org - https://attic-backup.org/
    attic backup rsnapshot
  • Let's Encrypt

    via sebsauvage

    November 19, 2014 at 12:56:47 PM GMT+1 - permalink - archive.org - https://letsencrypt.org/
    certif ssl
  • The Puppet File Server — Documentation — Puppet Labs

    Si vous utilisez le fileserver de puppet et que vous gérez beaucoup de petits fichiers avec, il y a surement des optimisations à faire !

    En effet pour chaque fichier, le client va demander un hash au serveur et en établissant à chaque fois une nouvelle connexion tcp... le temps perdu 2,5 secondes pour 10 fichiers..

    Pour voir tout ça, rdv dans les logs du puppet master et regarder les lignes : GET /production/file_metadata pour vous donner une idée

    La solution est de se passer du fileserver pour ces petits fichiers et de les inclure directement dans le catalogue, en utilisant :

    content => file(path)

    au lieu de source => puppet:///

    Ici on est passé de 14seconde à 5,5seconde

    November 18, 2014 at 5:00:04 PM GMT+1 - permalink - archive.org - https://docs.puppetlabs.com/guides/file_serving.html
    fileserver puppet
  • Introduction to Elasticsearch Snapshot and Restore module | kodcu.com

    via skunnyk

    November 17, 2014 at 2:25:38 PM GMT+1 - permalink - archive.org - http://en.kodcu.com/2014/11/introduction-to-elasticsearch-snapshot-and-restore-module/
    elasticsearch snapshot
  • Voxygen | Voxygen

    Voxygen, éditeur de la synthèse vocale de dernière génération, expert en voix expressives, vous accompagne dans la définition de votre stratégie vocale.

    November 17, 2014 at 1:06:29 PM GMT+1 - permalink - archive.org - http://www.voxygen.fr/fr
    synthese voice voix
  • Traffic Control HOWTO

    sujet à approfondir : tc

    • http://blog.edseek.com/~jasonb/articles/traffic_shaping/
    November 15, 2014 at 5:39:11 PM GMT+1 - permalink - archive.org - http://linux-ip.net/articles/Traffic-Control-HOWTO/
    control tc traffic
  • MetricsGraphics.js - a library based on D3.js, optimized for visualizing and laying out time-series data
    November 15, 2014 at 10:32:56 AM GMT+1 - permalink - archive.org - http://metricsgraphicsjs.org/
    graph js
Links per page: 20 50 100
◄Older
page 95 / 217
Newer►
Shaarli - The personal, minimalist, super-fast, database free, bookmarking service by the Shaarli community - Help/documentation