A háború alatt, 1944-ben született Budapesten a repülőgép-tervező Rubik Ernő fiaként. A találékony szellemet apai ágon öröklő fiú a Budapesti Műszaki Egyetemen végzett építészmérnökként 1967-ben, majd az Iparművészeti Főiskolán belsőépítészetet tanult 1971-ig. Ezután építész-tervezőként dolgozott, 1970 és 1988 között az Iparművészeti Főiskolán (a mai Moholy-Nagy Művészeti Egyetemen) tanított.
1974 tavaszán oktatási segédeszközként tervezte meg a térbeli mozgások szemléltetésére alkalmas, mérnöki modellezést segítő szerkezetét, amelyről később kiderült, hogy játéknak is igen szórakoztató. 1975-ben rukkolt elő a bűvös kockával, amelyre 1976. október 28-án RU–158 ügyszámon, „térbeli logikai játék” néven kapott szabadalmat. A kocka a játékosok körében rövid idő alatt példátlan népszerűségre tett szert, gyártásához és külföldi terjesztéséhez azonban át kellett verekednie magát a hazai bürokrácia útvesztőin, míg végül Rubik-kocka néven meghódította az egész világot. Népszerűsége négy évtized után sem csökkent, kihívást jelent játékosok és matematikusok számára egyaránt. Míg az előbbiek a kockakirakási rekordokat (jelenleg 5,55 másodperc, nézze meg a videón) döntögetik – a lassúsági csúcs 26 év –, az utóbbiak a kirakási lépések minimális számát keresve igyekeznek megfejteni a titkát.
1980–81-ben több országban volt az év játéka, később klubokat, egyesületeket, versenyeket és világbajnokságokat szerveztek rajongóinak. 1981-ben a kocka bevonult a New York-i Modern Művészetek Múzeumának építészeti és dizájngyűjteményébe. Tervezője a tanítás mellett 1982–83-ban főszerkesztőként jegyezte az És játék című lapot, 1983-ban megalapította, és azóta is vezeti a játéktervezésre specializálódott Rubik Stúdiót. A kocka után újabbnál újabb logikai játékokkal jelentkezett, 1977-ben alkotta meg a Kígyót, 1985-ben a Bűvös négyzetet, majd a Bűvös dominót és a Rubik-órát, 2009-ben a Rubik’s 360-at, vagyis a Rubik-gömböt. Ezek nem érték el az időközben kultusztárggyá vált kocka sikerét, de számos országban kedvelt logikai játékok.