Mads Mikkelsen 1965-ben látta meg a napvilágot Koppenhágában Hennig Mikkelsen banktisztviselő és Bente Christiansen ápolónő gyermekeként. Egy évvel idősebb bátyjával, a szintén színészként tevékenykedő Lars Mikkelsennel Nørrebroban nőtt fel. Nevét ironikus módon általában nem jól ejtik ki, mert a Mads valójában Mesz, míg a Mikkelsenben a középső néma, így Mikk’lzenként hangzik helyesen, de persze ehhez dánnak is kell születni. Fiatalon még tornásznak készült; atletizálni akart, aminek a helyét végül 18 éves korában átvette a tánc. Svédországba költözött és a göteborgi balett akadémián tanult. Közel egy évtizedig volt profi táncos, a felesége is egy tánckoreográfus, Hanne Jacobsen, akivel két gyermekük született, Viola és Carl, majd drámát kezdett tanulni az Aarhusi Színművészeti Főiskolán – ahonnan harmadéves korában ki is rúgták a Dílerben (máshol Elátkozott város) való szerepvállalásáért, és csak utólag fejezhette be a képzést.

Mads 1986-tól szerepelt színházi előadásokban, kezdetekben táncosként tűnt fel musicalekben, majd 1996-tól kezdve színészként bizonyíthatott a színpadon, de nem sokkal később a filmvásznon is debütált. A Dílerben a kiszámíthatatlan drogdíler Tonnyt alakította, és a szerep azonnal híressé tette hazájában. 1998-ban a Kísért a múlt című drámában tűnt fel Nikolaj Coster-Waldau mellett, ezúttal már főszereplőként formálta meg a szorongó, személyiségzavaros Jimmy karakterét, majd sorra kapta a dán filmek főszerepeit; 1999-ben feltűnt a Vérveszteség, 2000-ben a Gengszterek fogadója, 2001-ben pedig a Dina vagyok című filmekben. 2002-ben a Hogy szeretsz? című drámában formálta meg az egyik betegének a mennyasszonyába beleszerető fiatal orvost, amely alakításáért 2003-ban meg is kapta a Rouen Nordic Filmfesztivál legjobb színészének járó díját, illetve ugyanerre jelölve volt a Robert és Bodil Fesztiválokon is. Ezt követően 2003-ban a Zöld hentesek című éjfekete vígjátékban hellyel-közzel emberhúst is feldolgozó hentest, Svendet alakította, amelyik a mai napig az egyik legismertebb dán szerepe a két évvel később készült Ádám almái naiv, mindenben csak a jót látó papja mellett.

Nemzetközi karrierje 2004-ben indult be, amikor az Artúr királyban megkapta Tristan szerepét, majd leforgatták az Elátkozott város (Pusher II) második részét is. 2006-ban az Oscar-jelölt Esküvő után, valamint a díjnyertes Prágai történet című drámákban tűnt fel. Ezt követően Alexander Skarsgårddal játszott a svéd Vészkijárat című filmben, majd ismét visszatért Hollywoodba; kiválasztották a huszonegyedik James Bond film, a Casino Royale főgonosza, Le Chiffre szerepére. 2009-ben az addigra Európa legérzékibb színészének kikiáltott Mads a francia Coco Chanel és Igor Stravinsky - Egy titkos szerelem története című életrajzi ihletésű drámában formálta meg a címszereplő orosz zeneszerzőt, illetve A vikingek felemelkedése, valamint a német Die Tür című filmekben bizonyíthatott.

2010-ben A titánok harca című filmben az önfeláldozó vezért, Dracót, majd A három testőr új feldolgozásában Rocherfort-ot alakította – immár sokadik bal szemére vak karakterként, de ez állítólag puszta véletlen. 2012-ben megkapta az Oscar-jelölt történelmi drámában, az Egy veszedelmes viszonyban Johann Friedrich Struensee szerepét. Ugyanebben az évben A vadászat című drámában is szerepelt, pedofíliával vádolt vidéki pedagógusként tündökölt, amelyért a cannes-i fesztivál legjobb színészének járó díját is megkapta. 2013-tól az NBC bűnügyi-horrorsorozatában, a Hannibalban alakította a címszereplő ínyenc sorozatgyilkos pszichiátert, Dr. Hannibal Lectert három évadon keresztül. 2013-ban feltűnt  A lázadás kora: Michael Kohlhaas legendája című, némi csalódást keltő történelmi drámában, ahol a címszereplőként láthattuk. 2014-ben A Megváltás című western-drámában szerepelt Eva Green oldalán, 2015-ben pedig ismételten egy dán vígjátékban, a Férfiak és csirkékben formálta meg a főszereplőt, Eliast immár sokadik közös filmjében Anders Thomas Jensennel.

2016-ban két amerikai kasszasikerben tűnt fel: a legutóbbi Star Wars spin-offban, a Zsivány Egyes - Egy Star Wars történetben a Halálcsillag tervezőjeként, Galen Ersoként, a Doctor Strange című Marvel filmben pedig a címszereplő ellenfeleként, Kaecilius szerepében láthattuk Benedict Cumberbatch mellett – vagy inkább vele szemben. Legutóbb a most bemutatott Sarkvidék című túlélőfilmet forgatta Izlandon. Már kész van a Doug Liman rendezte Chaos Walking, csak most márciusról a jövő évre halasztották a bemutatóját, vagyis valami nincs rendben a filmmel, és már forgatják Jonas Åkerlundtól a Polart, ami egy – minő meglepetés, félszemű – bérgyilkos története, és egyben képregényfeldolgozás.