A texasi San Sabában szeptember 15-én született Jones apja olajmunkás, anyja rendőr, később szépségbolt-tulajdonos volt, ereiben indián és walesi vér is csörgedezik. Nehéz gyermekkora volt, az állandósult családi viharok elől a sportba menekült, de álmai nem valósultak meg: 183 centi magassága és kiváló felépítése ellenére az amerikai futballhoz túl alacsonynak minősítették. A Harvard Egyetem irodalom szakán végzett kitűnő eredménnyel, szobatársa és barátja Al Gore későbbi alelnök volt. (Az egyetemen tanító Erich Segal Love Story című regényének férfi hősét részben a két szobatársról mintázta, s Jones szerepelt is a regény 1970-es filmváltozatában.) Az egyetemi színjátszó kör tevékeny tagja volt, diplomájának megszerzése után tíz nappal minden színészi képzettség nélkül már a Broadwayn lépett fel.
Neve és arca a tévében lett ismert, szerepelt a Charlie angyalai című sorozatban és ő alakította a milliárdos Howard Hughes életéről készült tévéfilmben a különc texasit.
Filmes karrierje 1980-ban A szénbányász lánya című zenés filmmel lódult meg:
a címszereplő Sissy Spacek férjeként Golden Globe-díjra jelölték, majd a Norman Mailer regényéből készült A hóhér dala halálra ítélt gyilkosáért Emmy-díjat nyert.
Nagy sikert aratott Jessica Lange partnereként a Macska a forró bádogtetőn című tévéfilmben is, amelyet még forróbbá tett a Tennessee Williams-darab korábbi feldolgozásaiból elővigyázatosan elhagyott szexualitás.
A nyolcvanas években sorra játszotta a negatív figurákat (Fekete hold, Viharos hétfő, Kereszttűz), ami sem szakmailag, sem a közönségnél nem talált kedvező visszhangra. Népszerűségét az évtized végén a Texasi krónikák: Lonesome Dove című tévésorozattal nyerte vissza, amelyet minden idők legjobb westernjének szavaztak meg. 1991-ben (a vele ugyanazon a napon született) Oliver Stone JFK – A nyitott dosszié című politikai drámájában a Kennedy-gyilkosságba belekeveredő Clay Shaw üzletembert játszotta, és a legjobb férfi mellékszereplő kategóriában Oscar-díjra jelölték. Két évvel később szintén Stone instruálta az Ég és föld című filmdrámában, amely egy vietnami asszony nézőpontjából láttatta a vietnami háborút. A könnyen felejthető Úszó erőd című akciófilmben pszichopata terrorista volt, A szökevényben pedig elszántan üldözte az ártatlan, de gyilkossággal gyanúsított Harrison Fordot – alakításáért a legjobb férfi mellékszereplőnek járó Golden Globe- és Oscar-díjat is begyűjtötte 1993-ban.