Urodził się 25 sierpnia 1940 roku w Brukseli. W wieku 17 lat rozpoczął studia w Królewskim Konserwatorium w Brukseli pod kierunkiem Frédérica Anspacha, zdobywając już rok później pierwsze nagrody w dziedzinie śpiewu i sztuki operowej. W 1960 roku zadebiutował jako Don Basilio w „Cyruliku sewilskim” Rossiniego w Opéra Royal de Wallonie w Liège. Po zwycięstwach w konkursach wokalnych w Liège i Tuluzie rozpoczął międzynarodową karierę – najpierw w Operze Paryskiej, z którą był związany w latach 1961–1965, a następnie w Genewie i w Deutsche Oper w Berlinie, dokąd zaprosił go Lorin Maazel.
Od początku lat 70 występował na scenach Covent Garden, Staatsoper w Wiedniu, La Scali, Metropolitan Opera, Teatro Colón w Buenos Aires, Deutsche Oper Berlin oraz – szczególnie często – w paryskiej Opéra Garnier i Théâtre du Châtelet. Regularnie pojawiał się także na festiwalach w Aix-en-Provence, Salzburgu i Orange.
Dysponował niezwykle szerokim repertuarem – od Rameau po Messiaena. Do jego najważniejszych ról należały: Figaro („Wesele Figara”), Don Alfonso („Così fan tutte”), Leporello („Don Giovanni”), Escamillo („Carmen”), Golaud („Pelléas et Mélisande”), Filip II („Don Carlos”), Mefistofeles („Faust”, „Potępienie Fausta”), Jochanaan („Salome”), Scarpia („Tosca”), Borys Godunow („Borys Godunow”), Falstaff („Falstaff”), Hans Sachs („Śpiewacy norymberscy”), Holender („Holender tułacz”).
Szczególne miejsce w jego karierze zajęła tytułowa partia w „Świętym Franciszku z Asyżu” Oliviera Messiaena – śpiewał ją podczas światowej premiery w 1983 roku. Ogromną popularność przyniosła mu filmowa kreacja Leporella w „Don Giovannim” w reżyserii Josepha Loseya oraz rola w filmie „Mistrz muzyki” Gérarda Corbiau. W 2010 roku pożegnał się ze sceną w brukselskiej La Monnaie tytułową rolą w „Don Kichocie” Jules’a Masseneta.
Pozostawił bogatą dyskografię. Nagrywał m.in. „Requiem” Verdiego, „Fidelia”, „Wesele Figara”, „Parsifala”, „Salome”, „Pelléas et Mélisande”, „Holendra tułacza” pod batutą Herberta von Karajana, a także „Śpiewaków norymberskich” pod dyrekcją Georga Soltiego oraz „Fausta” Gounoda i „Don Carlosa”. Współpraca z Karajanem przyniosła interpretacje uznawane za kanoniczne.
(Donną Elvira jest Kiri Te Kanawa)
Był także cenionym śpiewakiem koncertowym i oratoryjnym, wykonując m.in. „Pasję wg św. Jana” Bacha oraz dzieła symfoniczne Beethovena i Brahmsa.
José van Dam kilkakrotnie występował w Polsce. W 1986 roku zaśpiewał w „Peleasie i Melizandzie” w Teatrze Wielkim w Łodzi, podczas gościnnych występów Opery w Lyonie. W 2002 roku dał recital pieśni (z towarzyszeniem pianisty Macieja Pikulskiego) i koncert operowy w Łodzi (pod batuta Claudio Desderiego), a w styczniu 2003 roku wystąpił w Teatrze Wielkim – Operze Narodowej w Warszawie z repertuarem pieśni Roberta Schumanna oraz ariami Mozarta.
W 1974 roku otrzymał tytuł Kammersängera w Berlinie. Był laureatem licznych nagród fonograficznych, m.in. Diapason d’Or i Orphée d’Or. W 1998 roku król Belgów Albert II nadał mu tytuł barona, uznając go za jednego z najwybitniejszych artystów muzyki klasycznej swojego kraju.
