Jos Vermunt studeert koordirectie bij Reinier Wakelkamp aan het Utrechts Conservatorium, en orkestdirectie bij Lucas Vis aan het Koninklijk Conservatorium te Den Haag. In de jaren 80 is Jos Vermunt dirigent van de Utrechtse Bachcantatediensten; later werkt hij als repetitor/dirigent met het Groot Omroepkoor. In dezelfde periode dirigeert hij met diverse amateur-symfonieorkesten werken uit het groot symfonisch repertoire. In de zomers van 1988 en 1989 wordt Jos Vermunt geselecteerd voor de orkestdirigentenklas van maestro Guennadi Rohzdestvensky aan de Accademia Musicale Chigiana te Siena in Italië.           
Het Toonkunstkoor Utrecht, het Residentie Kamerkoor, het Residentie Bachkoor en het Residentie Bachorkest staan onder zijn leiding en hij brengt hiermee composities in première  van Willem Wander van Nieuwkerk,  Peter-Jan Wagemans, Christian Ernst Graf, Frans van Doorn en Joost Kleppe.

Tijdens de koninklijke uitvaartdiensten van ZKH Prins Claus, HKH Koningin Juliana en
ZKH Prins Bernhard, de huwelijksdienst van ZKH Prins Constantijn en HKH Prinses Laurentien, en de doopdienst van HKH Prinses Alexia heeft Jos Vermunt de muzikale leiding.
Hij dirigeert educatieve projecten bij het Randstedelijk Begeleidings Orkest en
het Nederlands Kamerkoor.

Bij het Residentie Orkest en het Brabants Orkest treedt hij op als gastdirigent.
Jos Vermunt is hoofdvakdocent koordirectie aan het Koninklijk Conservatorium te Den Haag en aan het Conservatorium van Amsterdam (voorheen Sweelinck Conservatorium).