1845. március 27-én született Lennepben, Düsseldorf közelében; apja posztókészítő és -kereskedő volt. A család nem sokkal később Hollandiába költözött, így Röntgen Utrechtben kezdte műszaki tanulmányait, de az iskolából kicsapták, mert nem volt hajlandó elárulni egy osztálytársát, aki tanárukról karikatúrát készített. Végül a zürichi műegyetemen szerzett gépészmérnöki oklevelet 1868-ban, ezután August Adolph Kundtnak, a kor ismert fizikusának az asszisztense lett. 1873-ban Strasbourgban egyetemi magántanár, majd rendkívüli tanár lett, 1879-ben a Giesseni Egyetem fizikaprofesszorává nevezték ki. 1888-ban a würzburgi egyetemen kapott tanszéket, 1900 és 1920 között Münchenben vezette a fizikai intézetet.
Röntgen 1895. november 9-ére virradóra írta be magát örökre a tudomány történetébe. Ezen a napon katódsugárcsővel kísérletezett, ebben a majdnem légüresre szivattyúzott belsejű hengerben a katódból fókuszált elektronsugarakat lehet „előcsalogatni”, amelyek a feszültségtől függő sebességgel lefutnak a csövön. Röntgen homorú tükörformájú katódot használt, hogy az elektronnyalábot a szemközti csőfal minél kisebb felületére koncentrálhassa. A sötét szobában arra lett figyelmes, hogy a cső közelében egy sugárzásra érzékeny anyaggal bevont ernyő zöldes fénnyel kezdett világítani. Mivel a fekete papírba burkolt cső falán sem a katódsugár, sem a látható fény nem tud áthatolni, a jelenséget csak egy ismeretlen sugárzás okozhatta. Még nagyobb csodálkozására a sugárzás akkor is csak kicsit gyengült, amikor könyvet tett a cső és a képernyő közé, sőt ernyőt tartó ujjainak csontjai is kirajzolódtak a képernyőn, ami azt bizonyította, hogy a láthatatlan sugár a kézen is áthatol.
Az X-sugárnak elnevezett új sugárzásról a következő napokban az is kiderült, hogy a vastag ólomlemezen kívül szinte minden anyagon áthatol, ráadásul nemcsak a fluoreszkáló képernyőn, hanem a fényképlemezen is nyomot hagy. (Ma már tudjuk, hogy a röntgensugárzás – amelyet angolszász nyelvterületen máig X-sugaraknak neveznek – az elektromágneses sugárzás egy formája, amelynek hullámhossza 10 nanométer és 100 pikométer közé esik, és ionizáló hatása van.)