Joe Petrosinóra Palermo egyik központi terén, a Piazza Marinán adtak le négy lövést fényes nappal. Az FBI olasz származású nyomozója a helyszínen meghalt. Későbbi rekonstrukciók szerint Petrosino egy informátorra várt egy villamosmegálló közelében. Az informátor helyett a Cosa Nostra gyilkosai érkeztek meg.
Joe Petrosino megölése az első rendőrgyilkosságként íródott be a szicíliai szervezett bűnözés történetébe.
A rendőrség a gyilkosság gyanúsítottjaként őrizetbe vette a maffiavezér Vito Cascio Ferrót és közeli emberét, Paolo Palazzettót. Néhány nappal később azonban bizonyítékok hiányában szabadon engedték őket annak ellenére, hogy a keresztapa Don Vito egyik zsebében megtalálták Petrosino fényképét. A fotó a rendőrség szerint arra kellett, hogy a gyilkosok felismerjék Petrosinót.
A maffiavezérnek azonban alibije volt: egy korabeli szicíliai képviselő tanúsította, hogy a gyilkosság perceiben Don Vito vele együtt ebédelt. Joe Petrosino gyilkossága most oldódott meg. Palermóban hétfőn a Cosa Nostra több mint kilencven tagját tartóztatták le. Telefonjaikat régóta lehallgatták. A hatóságok így értesültek arról, hogy a 29 éves klánvezér, Domenico Palazzetto azzal dicsekedett: édesapja nagybátyja, Paolo Palazzetto lőtte le Joe Petrosinót.
Joe Petrosino volt az első amerikai nyomozó, aki a XX. század elején New Yorkban gyökereket vető szicíliai maffia ellen harcolt. Petrosino nevéhez fűződött az úgynevezett Fekete Kéz szervezetének leleplezése, amely a szicíliai Corleonéból származó maffiatagokból állt. A Fekete Kéz uzsorából és védelmi pénzből élt, amelyet a New York-i olasz közösség tagjai között szedett be.
Vito Cascio Ferro 1901-ben érkezett Szicíliából New Yorkba. Nemsokára a Fekete Kéz tagjaként letartóztatták. 1904-ben került vissza Szicíliába. Joe Petrosinóval öt évvel később találkozott Palermo utcáin, ahol az FBI nyomozója a maffia New Yorkból Szicíliába vezető szálait követte. Don Vito végül 1930-ban került börtönbe. A maffiavezér 1943-ban, a Nápoly közeli Pozzuoli börtönének bombázása közben halt meg.
