Fils d'immigrés marocains, Roschdy Zem prend des cours de théâtre et se passionne pour le football. La première expérience cinématographique de ce vendeur de jeans remonte à 1987, il est alors figurant dans
Les Keufs de
Josiane Balasko . En 1991, le réalisateur
André Techiné lui donne sa chance en lui faisant jouer un prostitué occasionnel aux côtés d'
Emmanuelle Béart dans
J'embrasse pas. Mais c'est en 1995 que Roschdy Zem confirme ses talents de comédien en interprétant un toxicomane dans
N'oublie pas que tu vas mourir de
Xavier Beauvois et un veilleur de nuit dans
En avoir (ou pas) de
Laetitia Masson .
Dès lors, l'acteur d'origine marocaine se construit une filmographie riche et variée. Il collectionne les films d'auteur en jouant sous la direction de Dominique Cabréra (
L'Autre côté de la mer (1997)), Patrice Chéreau (
Ceux qui m'aiment prendront le train (1998)), Laetitia Masson (
A vendre (1998)), André Téchiné (
Alice et Martin (1998)), Siegfried (
Louise (take 2) (1998)) et Claude Miller (
Betty Fisher et autres histoires (2001)). Parallèlement, Roschdy Zem n'hésite pas à tourner dans des longs métrages au sujet plus légers et accessibles au grand public, tels que
Ma petite entreprise (1999) de Pierre Jolivet ou encore
Le Raid (2002) de Djamel Bensalah.
En 2006 il est nommé au César du Meilleur acteur dans un second rôle pour
Le Petit lieutenant et décroche le Prix d'interprétation masculine à Cannes pour
Indigènes. La même année il fait ses premiers pas de réalisateur avec
Mauvaise Foi.