Heinrich Karl Bukowski néven a németországi Andernach városában született 1920. augusztus 16-án, német anya és német-amerikai apa gyermekeként. Hároméves volt, amikor Baltimore-ba, majd Los Angelesbe költöztek. Ahogy regényeiből is kiderül, pocsék gyermekkor jutott osztályrészéül: gyakorta munkanélküli apja mindenért elcsépelte, az utcában lakó kölykök német akcentusáért csúfolták, ráadásul az arcát elborító pattanások félénkké, visszahúzódóvá tették. A testi-lelki szenvedést enyhítendő már kamaszként felfedezte az alkohol „jótékony" hatását, a szesz mellett másik lelki támasza az írás lett.

A középiskola elvégzése után a Los Angeles City College-ban művészetet, újságírást és irodalmat hallgatott, de csak két évig. Apja ekkor olvasta el néhány írását, és annyira feldühödött, hogy fiát az összes holmijával együtt kidobta a házból. Bukowski New Yorkba költözött, ahol íróként próbált szerencsét. Első novellája 1944-ben jelent meg a Story magazinban, nem sokkal később egy másikat is közöltek, de aztán feladta a küzdelmet, hogy betörjön az irodalmi életbe. Ebben nemcsak az játszott közre, hogy gyűlölte New Yorkot, hanem az is, hogy 1944-ben tizenhét napra rács mögé került, mert ki akart bújni a sorkatonai szolgálat alól.
Jobb híján visszatért Los Angelesbe, alkalmi munkákból tengődött, és számos élményt gyűjtött későbbi írásaihoz. 1952-ben levélkihordó lett a postán, az általa lélekölőnek tartott munkát három éven keresztül végezte kénytelen-kelletlen.
1955-ben vérző gyomorfekéllyel kórházba került, és majdnem meghalt, ekkor megfogadta, hogy nem iszik többé; fogadalma csak a kórház kapujáig tartott.
A halálközeli élmények hatására verseket kezdett írni, első kötete 1959-ben jelent meg kétszáz példányban, majd a hatvanas évek elején több kötetet is publikált.
1958-tól több mint tíz évig levélszortírozóként ismét a postán dolgozott. 1962-ben alkoholmérgezésben meghalt első nagy szerelme, Jane Cooney Baker, akinek halála nagyon megrázta. 1964-ben lánya született Frances Smith költőnőtől, de a példás apa szerepe nem állt közel az íróhoz. 1967-ben kezdte írni rovatát, az Egy vén kujon feljegyzéseit a Los Angeles-i Open City underground újságba.
Két évvel később a Black Sparrow Press kiadója, John Martin rendszeres, de nem túl nagy összegű támogatást kezdett folyósítani neki, s végre főfoglalkozású író lehetett. Rögvest kilépett a postától, és befejezte első regényét, a Postát, amely 1971-ben meg is jelent.