Maurice Joseph Micklewhite szerény körülmények között látta meg a napvilágot Londonban. A halpiacon hordárként dolgozó apjától és takarítónő anyjától nem sok útravalót kapott az életre, az iskolában sem tanult jól. A menekülést a hadsereg jelentette számára, állomásozott Németországban, megjárta a koreai háborút.
Leszerelése után jelentkezett egy apróhirdetésre, és elnyerte a segédügyelői állást egy kis színházban. Idővel kisebb mellékszerepeket is kapott, akkor még Michael Scott néven lépett fel. Ezt gyorsan meg kellett változtatnia, mert egy kollégája már ugyanezt a nevet viselte: a döntés pillanatában tekintete a közeli mozi plakátjára tévedt, amely a Zendülés a Caine hadihajón című filmet hirdette, így született meg Michael Caine.
1959-ben Peter O\'Toole helyére ugorhatott be egy West End-i színházban, majd amikor a színész elutazott az Arábiai Lawrence forgatására, végleg átvette szerepét. Az áttörést 1964-ben a Zulu című kalandfilm hozta meg, ennek sikere Caine számára tizenkét szürke, küszködéssel teli év végét jelentette. Egy évvel később Az Ipcress ügyiratban titkos ügynököt játszott, e szerepkörből az Alfie drámai főszerepével sikerült kilépnie. A nőbolond Alfie Elkind szerepéért Golden Globe- és Oscar-díjra is jelölték, ez a film mutatta meg a hatvanas évek nyüzsgő Londonjának sötétebb arcát.
A hetvenes évek elején már válogathatott az ajánlatok között: 1969-ben a kultfilmmé vált Az olasz melóban, 1972-ben Sir Laurence Olivier oldalán A mesterdetektívben játszott, utóbbi alakításáért másodszor jelölték Oscar-díjra. 1976-ban egy másik színészóriás, Sean Connery mellett bizonyított az Aki király akart lenni című kalandfilmben, majd feltűnt A híd túl messze van című második világháborús alkotásban. Ebben az időszakban változó minőségű filmekben is szerepeket vállalt, döntését elsősorban anyagi okokkal indokolta.
Első Oscar-díját 1986-ban a legjobb mellékszereplő kategóriában kapta, Woody Allen Hannah és nővérei című filmjében nyújtott alakításáért. A gálán nem volt jelen, mert éppen a Cápa című horror negyedik, hatalmasat bukó részét forgatta. Később erről így nyilatkozott: „Nem láttam a filmet, biztos borzasztó. Láttam viszont a házamat, amit a gázsiból építettem, és az halálos.\"
A kilencvenes években is aktív maradt, pályájának íve mégis megtörni látszott; alakításait a kritika hol a fakó, hol az édeskés jelzővel illette. A visszatérést 1996-ban a Little Voice című független film jelezte, amelyért jutalma ismét Golde Globe-díj lett. A következő évben kapta meg második Oscar-díját, ismét a legjobb mellékszereplő kategóriában Az árvák hercege című filmért.
2000-ben II. Erzsébet lovaggá ütötte: apja iránti tiszteletből Sir Michael Micklewhite néven vonult be a brit arisztokraták táborába, mert eredeti nevét soha nem adta fel.
2002-ben A csendes amerikai főszerepéért az egekig magasztalták a kritikusok, és újra jelölték a filmvilág legrangosabb kitüntetésére. Az új évezredben szerepelt a Batman – Kezdődik, A sötét lovag és A sötét lovag – Felemelkedés című Christopher Nolan-filmekben, valamint az Eredet című sci-fiben. Hetvenhét évesen tért vissza szülőhazájába, hogy a Harry Brown című filmben eljátssza az idős tengerészgyalogos igazságosztó szerepét, idén kerül a mozikba Now You See Me című filmje.
Nemzedékének egyik legsikeresebb brit színésze, aki az angol színjátszásban szalonképessé tette az egyszerű, átlagos londoni, a cockney figuráját. Nem munkásokat játszott, maga is munkás volt, utána már rengetegen próbálták utánozni szinte eszköztelen játékát. A zenészek között is rengetegen rajongtak érte, 1984-ben maga is szerepet vállalt a Madness együttes Michael Caine című dalának videoklipjében. A konzervatív nézeteit soha nem titkoló színészlegenda 2010-ben a toryk mellett kampányolt, a Harry Brown bemutatója után pedig úgy nyilatkozott, ha csak fél évre is, de minden brit fiatalembernek szolgálnia kellene a seregben, hogy a magukra hagyott fiatalok az erőszak helyett az összetartozás érzését tapasztalják meg.
Sir Michael Caine nyolcvanadik születésnapját egyszerre ünnepli majd az amerikai zeneipar nagy öregjével, a zeneszerző, producer Quincy Jonesszal, aki ugyanazon a napon látta meg a napvilágot. A partira április 13-án Las Vegasban kerül sor, a meghívott hírességek a memóriazavarral küszködők alapítványának javára is adakoznak. A vacsoráért Gordon Ramsay sztárszakács felel.
