Né à Paris en 1904, Jean-Alexis Moncorgé, son vrai nom, est le fils d'artistes de café-concert. Mais ne s'inspirera pas de ses géniteurs immédiatement, il exerce plusieurs petits boulots avant d'entrer finalement aux Folies-Bergère grâce à son père, comme figurant. Après avoir passé son service militaire dans la Marine, il entame un tour de chant à partir de 1925 pendant 2 ans. Suite à une audition, Mistinguett le remarque et il devient alors son partenaire au Moulin-Rouge, puis jeune premier dans des opérettes à partir de 1929.

Il débute au Cinéma en 1930 dans Chacun sa chance (1930) de Hans Steinhoff et René Pujol au côté de Gaby Basset à qui il était marié depuis 1925 mais dont il divorce en 1930. Sa carrière débute alors avec des rôles qui exploitent ses origines populaires, et que Julien Duvidier ( Maria Chapdelaine (1934) 1934, La Bandera, 1935, La Belle équipe (1936) et Pépé le Moko (1936) 1936), Jean Renoir ( Les Bas-fonds (1936) 1936, La Grande illusion (1937) 1937 et La Bête humaine (1938) 1938), Marcel Carné ( Le Quai des brumes (1938) 1938 et Le Jour se lève (1939) 1939) ou Jean Grémillon ( Remorques (1940) 1939) sauront utiliser à bon escient.

Pendant la deuxième guerre mondiale, il part aux USA où il tourne 2 films, entame une idylle avec Marlene Dietrich jusqu'à son retour en Europe dans les Forces Françaises Libres en 1943. Il sort du conflit mondial récompensé de la médaille militaire et de la Croix de guerre en 1945. Marcel Carné et Jacques Prévert lui écrivent alors un rôle sur mesure avec pour partenaire Marlene Dietrich, mais le projet n'aboutit pas, et le film, Les portes de la nuit, se tournera finalement avec Yves Montant et Nathalie Nattier. Jean Gabin en profite pour se lancer dans la mise en scène d'une pièce d'Henry Bernstein, La Soif. Il retrouve finalement le chemin des plateaux, mais, ayant pris de l'âge, il interprète cette fois des rôles socialement plus intégrés, comme celui d'un industriel dans Miroir (1946) de Raymond Lamy en 1947, celui d'un commerçant dans La Marie du port (1949) de Marcel Carné en 1950, celui de La Nuit est mon royaume (1951) de Georges Lacombe en 1951 dont il est récompensé au festival de Venise, celui de Joseph dans Le Plaisir (1951) de Max Ophüls la même année, celui de François Donge dans La Vérité sur Bébé Donge (1951) de Henri Decoin en 1951, celui du docteur Pierre Richard dans La Minute de vérité (1952) de Jean Delannoy en 1952, celui du Maréchal Lannes dans le Napoléon (Napoleone Bonaparte) (1954) de Sacha Guitry en 1954 ou celui du médecin Laurent dans Le Cas du docteur Laurent (1956) de Jean-Paul Le Chanois en 1956. Entretemps, il aura épousé Dominique Fournier, une mannequin dont il a 3 enfants. L'un d'entre eux, Florence, suivra les traces de son père et se lancera dans la réalisation.

Sa carrière prend un nouveau tournant avec le rôle de Max dans Touchez pas au grisbi (Grisbì) (1953) de Jacques Becker en 1953, puis celui de Henri Ferré, dit le Nantais dans Razzia sur la schnouf de Henri Decoin en 1954, dans lesquels il a pour partenaire Paul Frankeur et Lino Ventura. Grâce à ces nouveaux succès, il retrouve, en 1954, Jean Renoir dans French Cancan (1954) et Marcel Carné dans L'Air de Paris (Aria di Parigi) (1954) avec Arletty, pour lequel il est de nouveau récompensé à Venise. Il reçoit d'ailleurs la Légion d'Honneur pendant le tournage de Les Vieux de la vieille (1960) en 1960.

Sa popularité jamais démentie, son nom devient synonyme de succès et de qualité : il tourne une série de grands films dans lesquels il côtoie les plus grands acteurs : Bourvil et Louis de Funès dans La Traversée de Paris (La Traversata di Parigi) (1956) de Claude Autant-Lara en 1956, qu'il retrouve en 1957 pour En cas de malheur (1957) avec Brigitte Bardot, Jean-Paul Belmondo dans Un Singe en hiver (1961) en 1962, et Alain Delon et Lino Ventura dans Le Clan des Siciliens (1969) en 1968, deux films d'Henri Verneuil, Simone Signoret dans Le Chat (1971) de Pierre Granier-Deferre en 1970, ou Sophia Loren dans Verdict (1974) d'André Cayatte en 1974. Fidèle, il tourne volontiers avec des cinéastes qu'il a déjà rencontrés, comme Jean Delannoy ( Maigret tend un piège (1957) 1956), Gilles Grangier ( Le Désordre et la nuit (1958) 1958, Le Cave se rebiffe (1961) 1961, Le Gentleman d'Epsom (Il Re delle corse) (1962) 1962, Sous le signe du taureau (1968) 1968), Henri Verneuil ( Le Président (1960) 1961, Mélodie en sous-sol (1963) 1963) ou Pierre Granier-Deferre ( La Horse (1970) 1970), alors que Michel Audiard et Pascal Jardin lui rédige des dialogues sur mesure.

Il fonde même une maison de production avec Fernandel, baptisée GaFer à partir de leur nom, qui leur permet de monter L'Âge ingrat de Gilles Grangier en 1964, et s'essaye à la chanson avec le titre « Ce que je sais ». Restant très discret sur sa vie privée tout au long de sa carrière, il aime séparer son métier de sa vie de famille dans une ferme en Normandie. Sujet à des problèmes cardiaques et à de l'hypertension, une congestion pulmonaire a raison de lui en 1976. Ces cendres sont versées en mer selon ses dernières volontés. Sa mémoire vivace au sein du monde du Cinéma, celui-ci lui rend hommage en créant le prix Jean Gabin récompensant les meilleurs espoirs masculins du Cinéma français.

"M. Julien Duvivier a regardé ses souteneurs et ses voyous en face. Il ne les flattes pas. Son ouvrage vaut mieux que son titre crapuleux et raccrocheur. On y trouve même quelques scènes dures et violentes [...]. Si l'on entre dans le détail de ce film, on observe le soin de M. Duvivier à serrer d'aussi près que possible la vraisemblance. [...] Il me semble cependant que cette atmosphère est bien étouffée, bien morne, et que, malgré le pittoresque indigène, M. Duvivier n'a pas su échapper complètement au souvenir de la " rue sans joie " des Allemands, qui poursuit les cinéastes sous tous les climats dès qu'ils abordent les lieux de la prostitution et du crime. C'est égal, presque tout, dans Pépé le Moko, est vigoureusement mis en page." (François Vinneuil (alias Lucien Rebatet), L'Action française n°36, février 1937) 

" (...) Julien Duvivier trouve son originalité en sacrifiant délibérément le côté " action " au profit de la peinture d'un milieu, la casbah, et d'un personnage d'homme traqué, se souvenant soudain de sa jeunesse et risquant sa liberté et sa vie pour la retrouver [...]. Sans littérature, d'un rythme sûr, solide, souple, le drame est mené avec une belle maîtrise, fortement concentré dans le temps et dans l'espace : pendant moins de quarante-huit heures, sur quelques arpents de ville d'Alger. " (Cinéma 58, juillet-août 1958)

Suite et remake 

- En 1938, John Cromwell tourna une version américaine de Pépé le Mokointitulée Algiers, avec Charles Boyer et Hedy Lamarr.

- En 1948, John Berry dirigea une autre version, Casbah, avec Tony Martin et Yvonne De Carlo.

- Il y eut même une parodie faite par l'acteur italien Toto, Toto le Mok, réalisée par Carlo Ludovico Bragaglia en 1949. 

Les lieux de tournage 

La casbah d'Alger fut entièrement reconstituée en studio à Paris. Les raccords d'extérieurs furent filmés à Marseille et à Sète. Seuls quelques plans documentaires (utilisés au début du film) furent réellement tournés à Alger.

- Julien Duvivier ne se cachera jamais, pour Pépé le Moko, d'avoir pris pour modèle les films de gangsters américains. Max, le truand joueur de bilboquet rappelle par exemple, dans Scarface de Howard Hawks, George Raft, le gangster à la pièce de monnaie.

- Julien Duvivier eut beaucoup de mal à convaincre les producteurs de Pépé le Moko d'engager Mireille Balin. Ils pensaient qu'elle manquait encore d'expérience pour tenir un rôle d'une telle importance. Duvivier organisa donc un rendez-vous entre les producteurs et l'actrice, qu'il maquilla et coiffa comme la Gaby de Pépé le Moko. Ils furent convaincus et lui firent aussitôt signer son contrat. Pépé le Moko fut son premier grand rôle.

- En interprétant Tania, la grande chanteuse Fréhel fait dans Pépé le Moko une de ses rares apparitions au Cinéma.

- Le scénario de Pépé le Moko fut tout d'abord proposé à Jean Renoir, qui le refusa. C'est ainsi qu'il atterrit entre les mains de Julien Duvivier.

- Pépé le Moko est adapté du roman homonyme de Pierre Ashelbe, qui travailla le scénario avec Julien Duvivier.

- Jean Gabin et Mireille Balin eurent une liaison sur Pépé le Moko.