A miskolci születésű sportember volt az egyetlen olyan játékos, aki öt olimpián szerepelt, ráadásul mind az ötön éremmel gazdagodott: Helsinkiben, Melbourne-ben és Tokióban arannyal, Londonban ezüsttel, Rómában pedig bronzzal, s lett ezzel minden idők legeredményesebb pólósa. Kétszer volt Európa-bajnok csapat tagja is, kétszeres főiskolai világbajnok, nyolcszoros magyar bajnok, a válogatottban 108 alkalommal szerepelt.
Münchenben, 1972-ben Rajki Béla segítőjeként ténykedett, majd négy évvel később, Montrealban már mint szövetségi kapitány vezette olimpiai bajnoki címig a magyar csapatot, amellyel nyert többek között vb-t, két Eb-t, s Világkupát is. Edzőként több klubcsapatnál dolgozott, itthon és külföldön egyaránt. 1992-től a Magyar Vízilabda Szövetség (MVLSZ) alelnöke, 1996-tól társelnöke volt.
Politikusként 1990 és 1994 között az MDF országgyűlési képviselője volt, majd 2003-ban a Fidesz kulturális tagozatában a sportszekció elnöke lett. Első felesége a szintén olimpiai bajnok úszó, Székely Éva volt, lányuk, az úszó Gyarmati Andrea Európa-bajnokságot nyert, olimpiai ezüstérmet szerzett. Unokája, Hesz Máté válogatott vízilabdázó lett, míg Szilágyi Liliána úszásban képviselte a magyar színeket tavaly a londoni olimpián.
Kitüntetései, erkölcsi elismerései közül kiemelkedik az 1994-ben megkapott Magyar Köztársasági Érdemrend középkeresztje, illetve a Magyar Köztársasági Érdemrend nagykeresztje, amit 2010-ben ítéltek oda neki. 2004 óta volt a Nemzet Sportolója. Gyarmati Dezső temetéséről a család és a Magyar Vízilabda Szövetség (MVSZ) a későbbiekben intézkedik – olvasható az MVSZ honlapján.
Klubjai: Csepeli MTK, UTE, Bp. Dózsa, FTC
Legjobb eredményei: olimpiai bajnok (1952, Helsinki; 1956, Melbourne; 1964, Tokió), olimpiai ezüstérmes (1948, London), olimpiai bronzérmes (1960, Róma), Európa-bajnok (1954, Torino; 1962, Lipcse)
Edzőként: olimpiai bajnok (1976), olimpiai bronzérmes (1980), világbajnok (1973), Európa-bajnok (1974, 1977), vb-második (1975, 1978)
1990 és 1994 között a Magyar Demokrata Fórum (MDF) listán bejutott országgyűlési képviselője volt
Kitüntetései: a Nemzet Sportolója (2004), MOB-életműdíj (2008), a MOB olimpiai érdemrendje (1994), Magyar Köztársasági Érdemrend Nagykeresztje (polgári tagozat, 2007), a Magyar Vízilabda Szövetség tiszteletbeli elnöke