Voici quelques logiciels (côté client ou serveur) qui me rendent bien service pour la gestion des serveurs. Ce sont parfois de petits outils, mais très pratique.
ssh, of course.
rsync, bien sûr
rclone, pratique car il supporte d'autres protocoles que ssh, il fait des tranfers simultanés, et il possède des options très très cool (mount, etc.)
monit pour surveiller les services, fichiers, réseau et me prévenir, redémarrer des services (voir la machine complète) en cas de problème.
byobu pour la ligne de commande (persistence de session, multiples sessions/fenêtre sur une même connexion, barre de status…).