Apja fotósként az amerikai szabványügyi hivatalnál dolgozott, s bár nem volt iskolázott, számos technikai újítással járult hozzá a fotográfia fejlődéséhez. A kiskorától a természettudományok iránt érdeklődő Raymond Davis Jr. tőle örökölte kísérletező szellemét: atyai jóváhagyással laboratóriumot rendezett be házuk alagsorában, s lelkes olvasója volt a Smithsonian Intézet tudományos ismeretterjesztő füzeteinek.
Egyetemi tanulmányait a Marylandi Egyetem kémia szakán kezdte meg, 1938-ban bsc, 1940-ben msc fokozatú diplomát szerzett, két évvel később a Yale Egyetemen fizikai kémiából doktorált. Tartalékos tisztként még ebben az évben bevonult a hadseregbe, a második világháború hátralévő éveit egy Utah állambeli bázison vegyifegyver-kísérletek megfigyelésével töltötte, szabad idejében a környék, illetve a Nagy-tavak vidékét fotózta szenvedélyesen.
A háború után a nukleáris kutatással foglalkozó Monsanto Mound Laboratóriumban kapott állást, majd 1948-ban csatlakozott az atomenergia békés felhasználásának lehetőségeit kutató Brookhaveni Nemzeti Laboratórium csapatához. Első feladatként azt kapta, hogy válasszon kutatási területet, ő pedig a szakirodalom tanulmányozása után az akkor még kevésbé ismert neutrínófizika mellett döntött. A neutrínók atommag-reakciók során keletkező semleges, nagyon kis tömegű részecskék, amelyek a természetben előforduló négy alapvető kölcsönhatás közül (elektromágneses, gyenge, erős, gravitációs) csak a gyenge kölcsönhatásban vesznek részt, kísérleti kimutatásuk rendkívül nehéz. Davis kutatásaihoz kezdetben a brookhaveni kutatóreaktort, majd a nagyobb Savannah River-reaktort használta neutrínóforrásként, de nem sikerült átütő eredményt elérnie.
Ezután az olasz Bruno Pontecorvo ötlete alapján a Napból jövő neutrínók detektálását kísérelte meg klórtartalmú anyag segítségével. 1955-ben a dél-dakotai Homestake kozmikus sugárzástól védett aranybányájában, 1500 méter mélyen építtette fel a berendezést, amelyet 100 ezer gallon (379 ezer liter), régen a vegytisztításhoz használt széntetrakloriddal töltöttek meg. Itt már sikerült megfigyelni, amint a klóratomok neutrínók hatására radioaktív argonná alakultak; a kölcsönhatásokból egy elektron keletkezett, ennek észlelése tette lehetővé a folyamat kimutatását. A napneutrínók azonban olyan kevéssé léptek reakcióba a klóratom magjaival, hogy a reakció mérésére új mértékegységet kellett bevezetni.