Refusé au Conservatoire au terme de deux années d'études au centre du spectacle de la rue Blanche, Michel Serrault signe son premier contrat en 1946, pour une tournée en Allemagne. Il y joue notamment Les fourberies de Scapin. En 1948, il fait son service militaire à Dijon dans l'aviation. De retour à Paris, il apparaît dans Dugudu, le second spectacle de Robert Dhery après Les Branquignols. C'est en 1952 qu'il rencontre Jean Poiret aux matinées classiques du théâtre Sarah-Bernhardt. Ils interprètent ensemble le sketch Jerry Scott, vedette internationale.

Michel Serrault débute au Cinéma en 1954 dans Ah ! Les belles bacchantes de Jean Loubignac, et dans Les Diaboliques (1955) de Assassins et voleurs (1957). Dans les années 60, Michel Serrault semble accorder plus d'intérêt à sa carrière théâtrale qu'au Cinéma. C'est ainsi qu'il joue Monsieur Dodd (1966), d'Arthur Watkin, Opération Lagrelèche (1967) (qu'il a écrit et mis en scène avec Jean Poiret), Gugusse (1968) de Marcel Achard, Le Vison voyageur (1969) de Jean-Loup Dabadie, et Le Tombeur (1972) de Neil Simon.

Au Cinéma, peu prisé par les grands metteurs en scène, il enchaîne les comédies de série B comme Les Combinards (1964), Bon Week end (1965), ou encore Le Fou du labo 4 (1967). En 1972, il trouve enfin un rôle à sa mesure dans Le Viager de Pierre Tchernia, avec qui il commence une longue collaboration. La même année, sous la direction d'd'Étienne Périe, il interprète, dans Un meurtre est un meurtre, un commissaire de police antipathique et peu scrupuleux prêt à tout mettre en oeuvre pour démasquer un assassin.

Le 1er février 1973, au Théâtre du Palais Royal, c'est la création de La cage aux folles, la pièce de Jean Poiret qui connaît une carrière triomphale et fait de Michel Serrault une vedette. Il jouera le rôle d'Albin pendant plus de cinq ans, sans pour autant interrompre une carrière Cinématographique où son nouveau statut lui permet d'être plus exigeant que par le passé. Étrangleur de femmes dans L'Ibis rouge (Jean-Pierre Mocky, 1975), banquier véreux dans L'Argent des autres (1978), Michel Serrault semble de plus en plus souvent tourner le dos aux rôles comiques si nombreux au début de sa carrière. C'est néanmoins son personnage d'Albin qui lui vaut, en 1979, le César de l'interprétation masculine dans La Cage aux folles, l'adaptation à l'écran par Edouard Molinaro de la pièce de Jean Poiret.

Désormais, le comédien va alterner drames et comédies, avec une prédilection pour les personnages décalés, exceptionnels. Incarner des personnages d'exception, c'est tout le paradoxe d'un comédien que son physique avait longtemps cantonné dans des rôles de français moyen, timide et modeste. Tout le contraire de l'Oeil, le privé de Mortelle randonnée (1982), de l'inspecteur Stanitand dans On ne meurt que deux fois (1985) ou du personnage de notable accusé, dans Garde à vue, d'avoir violé et tué une petite fille, et qui, en 1981, vaut à Michel Serrault son second César d'interprétation. Il en obtient un troisième en 1995 pour son interprétation dans Nelly et Monsieur Arnaud (1995), dernier film de Claude Sautet, aux cotés d'Emmanuelle Béart. La même année, son retour à la comédie Le Bonheur est dans le pré est salué par un succès. La nouvelle génération fait appel à lui. Mathieu Kassovitz le transforme en tueur impitoyable pour les besoins Assassin(s), tandis qu'il est un agriculteur bougon au grand coeur (Une hirondelle a fait le printemps) face à Mathilde Seigner.