Rexhepi ka lindur  më 3 qershor të vitit 1954 në Mitrovicë. Në vitin 1979 kishte përfunduar fakultetin e Mjekësisë në Universitetin e Prishtinës, ndërsa studimet pas-universitare i ka përfunduar në vitin 1985 në Zagreb.

Gjatë luftës së viteve 1998-99 Rexhepi i u bashkua Ushtrisë Çlirimtare të Kosovës dhe kaloi tre muaj në male duke shërbyer si mjek në zonën operative të Shalës, shkruan portali Zeri.info.

Pas luftës, Rexhepi shërbeu si kryetar i këshillit bashkiak të Mitrovicës dhe kryetar i Mitrovicës së jugut.

Më 4 mars të vitit 2002, pas tre muaj bisedimesh dhe me ndërmjetësimin e ish-kryeadministratorit të atëhershëm të Kosovës Michael Steiner, Kuvendi i Kosovës zgjodhi Bajram Rexhepin si kryeministrin e parë të Kosovës, ndërsa Ibrahim Rugova ishte zgjedhur president i Kosovës. Rugova ka vdekur më 21 janar të vitit 2006.

Ndërsa gjatë periudhës 2010-2014 Rexhepi ka qenë ministër i Brendshëm i Kosovës.