Voici quelques logiciels (côté client ou serveur) qui me rendent bien service pour la gestion des serveurs. Ce sont parfois de petits outils, mais très pratique.

• ssh, of course.
• rsync, bien sûr
• rclone, pratique car il supporte d'autres protocoles que ssh, il fait des tranfers simultanés, et il possède des options très très cool (mount, etc.)
• monit pour surveiller les services, fichiers, réseau et me prévenir, redémarrer des services (voir la machine complète) en cas de problème.
• byobu pour la ligne de commande (persistence de session, multiples sessions/fenêtre sur une même connexion, barre de status…).