Kolozsvárott született iparos családban, gyermekkorát azonban a szilágysági Zilahon töltötte, a kisváros meghatározó élményt jelentett számára. Itt kezdte a gimnáziumot is, majd visszakerült Kolozsvárra, ahol vasúti gépipari középiskolába járt. Mikor az iskolát megszüntették, Nagyváradon és Szatmáron dolgozott vasúti műhelyekben, mozdonyvezetőnek készült, de a szeme miatt az orvosi vizsgálaton erre alkalmatlannak minősítették.
Esti gimnáziumban érettségizett le, 1958-ban felvették a kolozsvári egyetem jogi karára. Egyetemistaként jelentette meg első írását az Utunk című irodalmi folyóiratban, majd 1963-ban megnyerte a lap novellapályázatát az Ahol nem történik semmi című írásával. Abban az évben diplomázott, de a felkínált ügyészi állást nem fogadta el, később sem vállalt olyan állást, ahol a jogi végzettségére lett volna szükség.
A jog helyett az irodalom mellett kötelezte el magát, 1963-ban az Utunk munkatársa, majd 1968-tól főszerkesztő-helyettese, 1990-ben pedig a lap örökébe lépő Helikon című folyóirat főszerkesztője lett.
Szilágyi István az 1960-as évek elején induló Forrás-nemzedék egyik meghatározó egyénisége lett olyan neves pályatársak mellett, mint Szilágyi Domokos, Bálint Tibor, Lászlóffy Aladár. E nemzedék jellemzője volt, hogy új hagyományszemléletet teremtettek, műveikben a társadalmi elkötelezettség helyett a személyiség vizsgálatára helyezték a hangsúlyt. A Forrás-sorozatban jelentek meg Szilágyi első novelláskötetei (Sorskovács, Ezen a csillagon), amelyekben kétkezi munkásokat ábrázolt hiteles helyzetekben, a maguk összetettségében, egyediségében, elszakadva a kor sematikus munkásábrázolásától.
Első regénye, az 1969-ben kiadott Üllő, dobszó, harang egy tanítónő és egy katonaszökevény szerelmének költői történetét állítja szembe a második világháború embertelenségével. Mindmáig talán legnépszerűbb, legolvasottabb műve második regénye, az 1975-ös Kő hull apadó kútba, amely egyszerre lélektani krimi, történelmi regény és pontos szociográfia. A kisiparos, kurtanemes ősöktől származó Szendy Ilka és a szegény napszámos Gönczi Dénes pusztító kapcsolatának története mögött elevenen rajzolódik ki a századforduló mozdulatlanságba merevedő vidéki kisvárosának képe. A művet, amely Magyarországon öt kiadást ért meg, orosz, lengyel, román, szlovák és német nyelvre is lefordították.
A nyolcvanas években írta meg Szilágyi István mitologikus nagyregényét, „a romániai diktatúra embertelen világának epikai parafrázisát”, az Agancsbozótot, amelynek megjelenését a cenzúra nem engedélyezte, csak 1990-ben kerülhetett az olvasók elé, „tiltott könyvek szabadon” jelzéssel. Következő monumentális műve, a Hollóidő a XVI. századi három részre szakadt Magyarországon játszódó történelmi regény, a „képzelet, a létezés és az emberi élet titkait fürkésző” kíméletlen és tragikus történet.
A nagyepikai művek mellett továbbra is ír novellákat, karcolatokat, esszéket, hetvenedik születésnapjára Bolygó tüzek címmel jelent meg kisprózáiból válogatás.
Szilágyi Istvánt 2002-ben a Magyar Művészeti Akadémia tagjává választották. Munkásságáért több rangos kitüntetést, így 1990-ben József Attila-díjat, 1992-ben Ady Endre-díjat, 1995-ben Déry Tibor-jutalmat vehetett át, 1999-ben a Magyar Köztársasági Érdemrend kiskeresztjével tüntették ki. 2001-ben kapta meg a Kossuth-díjat kiemelkedő írói munkásságáért, a próza műfaját a magyar nyelv archaikus rétegeivel gazdagító tevékenységéért, a történelmi folyamatokat megjelenítő, az emberi lét általános törvényszerűségeit vizsgáló kivételesen érzékeny műveiért. 2003-ban Márai Sándor-, 2008-ban Arany János-, 2009-ben Alföld díjjal jutalmazták, 2011-ben pedig megkapta az Erdélyi Magyar Irodalomért Alapítvány Életműdíját.