A hétgyermekes makói család szűkös viszonyok között élt az apa korai halála miatt, de a család mindent megtett, hogy a gyermekek megfelelő oktatásban részesüljenek. Galambos József így került Szegedre, ahol az Állami Fa- és Fémipari Szakiskolában (ma Déri Miklós Szakközépiskola) tanult.
Itt a legkedvesebb tanárai közé tartozott Csonka Ferenc vegyészmérnök, akinek bátyja, Csonka János a magyar autó- és motorgyártás úttörője volt.
Már itt felfigyeltek geometriai rajzaira, amik nagy kifejezőkészségről tanúskodtak.
Felsőiskolai végzettséget már Budapesten szerzett a Budapesti Állami Felsőiskolában (ma Óbudai Egyetem, Bánki Donát Mérnöki Kar). Élénken érdeklődött a különféle gépek iránt. A főiskola elvégzése után mint kovács, kútfúró, harangöntő, lakatos és rézöntő helyezkedett el, de gyakorlatot szerzett a lokomotívok és a gőzkazánok kezelésében is.
Galamb József sokirányú képzettségét először a Diósgyőri Vasgyár üzemmérnökeként kamatoztatta. Pályájában fordulatot hozott az 1901-es év, amikor kötelező katonai szolgálatra a haditengerészethez került. Gépszerelő mérnökként tevékenykedett, és munkakapcsolatba került Horthy Miklóssal, az egyik őrnaszád parancsnokával.
Horthy felismerte Galamb különös tehetségét, és kezdeményezte, hogy korábban szereljék le a katonaságtól szakmai fejlődése érdekében.
Galamb élt is a lehetőséggel, és az autógyártás különböző területeibe kóstolt bele Hódmezővásárhelyen, Aradon és Békéscsabán. Kiváló munkájának köszönhetően a Magyar Automobil Rt. ösztöndíját is elnyerte.
Ez nyitotta meg számára az utat Németországba, ahol az autógyártás a legfejlettebb volt az akkori Európában. Galamb minél többet meg akart tudni az autógyártás titkaiból, ezért több helyen is megfordult, eljutott Drezdába, Hamburgba, Berlinbe és Brémába is. Utóbbi városban munkát vállalt egy hajógyárban, majd a Daimler-Benz düsseldorfi üzemében, később pedig a Frankfurtban székelő Adler Automobilnál dolgozott motor-összeszerelőként.
Másfél év alatt meghódította Amerikát
Galamb József elhatározta, hogy eljut az Egyesült Államokba, méghozzá azért, hogy megtekintse az 1904-es autómobil-világkiállítást St. Louisban. Spórolt pénzén 1903. októberében érkezett meg az Újvilágba. Galambnak pénze nemigen volt, de bármilyen munkát elvállalt, amiből tanulhatott valamit. Dolgozott egy dobozgyárban, de részt vett az Albany State House falburkolatának elkészítésében is. Pittsburghben szerszámkészítőként helyezkedett el a Westinghouse Műveknél, ahol a motorok iránti szenvedélyének élhetett. Keresetéből végül el tudott jutni a világkiállításra, majd St. Louis-ból Clevelandbe ment, ahol a Stearn’s Automobile Company alkalmazottja lett, karburátorokat készített. Hamar elsajátította az angol nyelvet, ezért géptervezői állást keresett.