Robert Kovac växte upp i stadsdelen Wedding i Berlin och spelade i Rapide Wedding och Hertha Zehlendorf. Proffskarriären började i 1. FC Nürnberg. Kovač var under flera år en av Bundesligas bästa mittbackar och spelade i storlagen Bayer Leverkusen och FC Bayern München. I Bayern München spelade han under en period tillsammans med brodern Niko Kovač som han även spelade i det kroatiska landslaget med. Han har även haft en sejour i Juventus FC. 11 december 2010 meddelade Kovac att han lägger av med fotbollen.