Né le 12 avril 1932 à Dijon, il commence à monter des pièces de Tchekhov avec ses camarades durant ses années de lycée. Un de ses professeurs l'encourage à devenir acteur, alors que lui songeait plutôt à étudier la littérature. Formé au Conservatoire, il s'y lie d'amitié avec Jean-Paul Belmondo et Jean Rochefort, et en sort avec le second prix de comédie en 1954. Se produisant sur les planches, il décroche ses premiers films, lesquels, loin de le convaincre, l'incitent à se tourner vers le cabaret. Les années 60 lui apportent des rôles plus enthousiasmants, comme dans "Faites sauter la banque" de Jean Girault, "Peau de banane" de Marcel Ophuls, "Week-end à Zuydcoote" d'Henri Verneuil, ou encore "Un monsieur de compagnie" et "Le Diable par la queue" de Philippe de Broca.
Second rôle récurrent dans les années 60, il voit sa popularité croître dans les années 70 grâce à "La Valise" de Georges Lautner, "Que la fête commence" de Bertrand Tavernier ou "Calmos" de Bertrand Blier. Sans oublier "Les Galettes de Pont-Aven" de Joël Seria, une comédie grivoise qui marque son époque, et lui offre sa première nomination au César du meilleur acteur (il y en aura beaucoup d'autres, sans que jamais la statuette ne lui soit réellement décernée). La décennie suivante lui permet de gagner ses galons de grand comédien grâce à ses retrouvailles avec Bertrand Tavernier, qui lui fait camper deux jumeaux dans son drame "Coup de torchon", puis grâce à son rôle de flic désabusé et suicidaire dans "Les Mois d'avril sont meurtriers" de Laurent Heynemann. Au passage, il retrouve Bertrand Blier pour "Tenue de soirée" et joue dans le "Quelques jours avec moi" de Claude Sautet.
Les années 90 font de lui un monstre sacré de la trempe d'un Noiret ou d'un Rochefort. Il triomphe en Sainte-Colombe dans la fresque historique et musicale "Tous les matins du monde" d'Alain Corneau, tandis que Claire Devers fait de lui le flic de "Max et Jérémie" face aux truands que campent Philippe Noiret et Christophe Lambert. Il se laisse également diriger par tous les grands noms de l'époque : Claude Berri pour "Uranus", Bertrand Blier pour "Un, deux, trois, soleil", Patrice Leconte pour "Les Grands ducs", Claude Lelouch pour "Une pour toutes", ou encore Claude Miller pour "Le Sourire" et "La Petite Lili". A l'aise dans le registre parodique (le délirant "Atomik Circus, le retour de James Bataille" des frères Poiraud) comme dans le drame historique ("Les Ames grises" d'Yves Angelo, "Le Grand Meaulnes" de Jean-Daniel Verhaeghe), il côtoie même Tom Hanks en conservateur du musée du Louvre dans le "Da Vinci Code" dirigé par Ron Howard.
En 2007, Noémie Lvovsky fait de lui un disciple de Fred Astaire dans sa comédie "Faut que ça danse !", qui lui vaut sa septième citation lors de la cérémonie des Césars. Parallèlement, il prête sa voix rocailleuse et aisément reconnaissable au chef Gusteau dans la version française du dessin-animé "Ratatouille". Puis il rejoint la troupe de joyeux sans-le-sou de "Micmacs à tire-larigot" de Jean-Pierre Jeunet, avant de jouer un prêtre amoureux de Danielle Darrieux dans la comédie chorale "Pièce montée" : le public ne se lasse pas de sa présence monumentale, lui qui sait si bien aussi se moquer de son image.