Oui, c'est possible, et c'est même recommandé de configurer deux vhosts plutôt que de passer par un chemin différent ;-)
En gros, tu peux faire une copie de /etc/nginx/sites-available/default et l'adapter (notamment le port (+ éventuellement l'IP) dans la directive "listen", le "server_name" où tu mets "peertube.tepsne.ovh" par exemple, et "root" que tu fais pointer vers le dossier racine de ton vhost).