Mivel sokáig semmilyen zenei képzést nem kapott, Ornette Colemannek saját bevallása szerint kezdetben fogalma sem volt, hogy léteznek szabályok is a zenében. Azt gondolta, az „csak hang”. Szegény texasi családba született, az első altszaxofonját ő vette magának, és egyedül tanult meg játszani rajta. Ornette Coleman a free jazz, azaz a szabad dzsessz úttörője volt az ötvenes évek végétől, harmadik albumának címéből származik ez a kifejezés is. A Free jazz: A Collective Improvisation (1960) egyetlen folyamatos, negyvenperces improvizáció volt két kvartettel.
Coleman free jazz irányzatba való besorolásával voltaképpen ő maga nem értett egyet, mivel nem vetette el teljesen az előre megírt témákat, kompozíciókat, nem mindig a teljesen szabad improvizációra épített. Emiatt inkább az avantgárd dzsesszhez sorolhatjuk a munkásságát. 1959-ben megjelent The Shape of Jazz to Come című lemezét tartják a dzsessztörténet egyik első avantgárd albumának.
Későbbi pályáján elkalandozott az elektronikus hangszerek és a rock, illetve a funk irányába, de ekkor is megőrizte egyedi stílusát, amely egyértelműen megkülönböztette a hatvanas évek végén kialakult fúziós dzsessz képviselőitől. Szaxofonos és zeneszerzői működése mellett hegedült és trombitált is. Szívesen lépett fel más zenei kultúrákból érkező muzsikusokkal. 1977-ben megjelent Dancing in Your Head című albumát Marokkóban vette fel törzsi zenészek közreműködésével. Több szerzeménye bekerült az ismert dzsesszstandardok közé, ilyen például a Lonely Woman.
2006-os, Sound Grammar című albumáért zenei Pulitzer-díjat vehetett át, a következő évben Grammy-életműdíjjal tüntették ki.