Ninnian Joe Yule Jr. néven született New Yorkban, ahol színész szülei akkor rendkívül népszerű vaudeville (zenés bohózat) darabokban szerepeltek. Nem csoda, ha a színész már tizenöt hónaposan a világot jelentő deszkákra lépett, pontosabban totyogott az ő méretére készített szmokingban.
Négyéves volt a színész, amikor szülei elváltak, s anyja magával vitte Hollywoodba, ahol először hatévesen, dohányzó törpeként állt a kamera elé. A következő évben egy meghallgatás után elnyerte a Csendes komédia című burleszk-sorozat főszerepét, s hét éven keresztül alakította a képregényhős Mickey McGuire-t. A sorozat annyira sikeres volt, hogy megpróbálta hivatalosan is felvenni a Mickey McGuire nevet, de a képregény kiadója beperelte, ezért vezetéknevét először Looney-ra, majd Rooney-ra változtatta. A színész előszeretettel terjesztette, hogy róla kapta nevét a világ egyik leghíresebb rajzfilm-figurája: az éppen egy egér karakteren dolgozó Walt Disney vele találkozva döntött a Mickey név mellett, bár Disney ezt mindig tagadta. Rooney nem csak a színészetben volt rendkívül tehetséges, kiválóan énekelt, táncolt, dobolt és zongorázott is.
A leghíresebb filmsztárok oldalán forgathatott, nagynevű rendezők irányításával, szárnyára kapta a világhír.
Karrierjének fontos állomása volt 1937-ben a Családi ügy című filmben a rokonszenves kamasz, Andy Hardy megformálása, a karaktert a filmstúdió számára is váratlan siker nyomán 1956-ig húsz folytatásban keltette életre. A sorozat egyik első darabjában, 1938-ban szerepelt először együtt a kor másik nagy gyermek filmcsillagával, Judy Garlanddal, akivel a való életben is barátok lettek és több nagysikerű zenés-táncos filmet forgattak. Rooney karrierje csúcsán három egymást követő évben – 1939, 1940 és 1941 – a legjobban fizetett férfi színész volt, akinek a neve önmagában garancia volt a kasszasikerre.
A második világháború utolsó időszakában, 1944-ben bevonult és 21 hónapon át szolgált a hadseregben. Természetesen nem küldték a frontra, a katonákat szórakoztatta, nem egyszer a hadműveletek helyszínén. Hollywoodba visszatérve csalódottan kellett tapasztalnia, hogy a tinédzser-szerepekből kiöregedett, s alacsony (157 centis) termete miatt főszerepeket sem nagyon ajánlottak neki. Ő nem adta fel, minden feladatot elvállalt: volt narrátor, színházi turnékon vett részt, éjszakai klubokban lépett fel, nem túl sikeres filmek epizódszerepeit alakította, 1954-től saját tv-show-val jelentkezett. Karrierje mégis tartósan lefelé ívelt, alig néhány említésre méltó szerepe volt olyan filmekben, mint A merész és a bátor, Álom luxuskivitelben, Ez egy bolond, bolond, bolond világ. A hetvenes évektől filmes és tévés karakterszerepekben és a Broadway színpadán sikerült számára a visszatérés. Egészen haláláig forgatott, karrierje az egyik leghosszabb a show-bizniszben, 88 év alatt háromszáznál több filmben szerepelt.
