V skoraj dveh desetletjih v članskem nogometu je Mandžukić odigral 89 tekem za hrvaško reprezentanco in dosegel 33 golov. S tem je na drugem mestu strelcev hrvaške izbrane vrste za Davorjem Šukerjem, ki je dosegel 45 golov. Najpomembnejši zadetek v reprezentančni karieri je dosegel v 109. minuti polfinala zadnjega svetovnega prvenstva v Rusiji, ko je odločil tekmo z Angleži v podaljšku.

Mandžukić je v karieri zastopal barve članskih ekip Željezničarja iz Slavonskega Broda, Marsonie, Zagreba, Dinama iz Zagreba, Wolfsburga, Bayerna iz Münchna, Atletica iz Madrida, Juventusa, Milana, zunaj meja stare celine pa je igral še za katarski Al Duhail.

Pred osmimi leti osvojil Ligo prvakov z Bayernom
Z Dinamom iz Zagreba je na Hrvaškem osvojil tri naslove državnega prvaka, z Bayernom dva v Nemčiji ter z Juventusom štiri v Italiji. V sezoni 2012/13 je osvojil tudi Ligo prvakov s serijskim nemškim prvakom z Bavarske. V finalu 25. maja 2013 na Wembleyju je dosegel vodilni zadetek za Bayerna, ki je ugnal dortmundsko Borussio z 2:1. V finalu tega tekmovanja je igral še z Juventusom v sezoni 2016/17, ko je na koncu slavil Real Madrid, Slavonec pa je bil strelec edinega gola za Torinčane.