1938. augusztus 16-án született Kondoroson. Nyíregyházán ismerkedett meg az öttusával, illetve gyermekként még a háromtusával. Tehetsége a legjobbak közé emelte. Az 1958-as világbajnokságon hatodik lett, az egy év múlva rendezett világversenyen már ezüstérmet szerzett. 1956-tól a Csepel versenyzője volt, első magyar bajnokságát 1961-ben nyerte. Összesen nyolc magyar bajnoki címet szerzett egyéniben öttusában, de 1963-ban párbajtőrvívásban is a legjobb lett.
1960-ban Rómában tagja volt az olimpiai aranyérmes öttusa-válogatottnak, egyéniben akkor a negyedik helyet szerezte meg. A huszonkét éves fiatalember csalódott volt római teljesítménye miatt, meg is sérült, miután nagyot esett a lovával, nem tudott úgy versenyezni, ahogyan elképzelte. Lassan megérlelődött benne az elhatározás: „Többet kell edzenem, és önmagam irányításával. Onnantól nem mondta meg nekem senki, mennyit fussak, ha úgy éreztem jól magam, hogy tíz kilométerrel többet futottam, mint a társaim, akkor azt tettem.”
Saját maga edzőjeként 1963 és 1969 között sorozatban öt világbajnokságon nyert egyéni aranyérmet, és – az 1969-es világbajnokságot leszámítva – csapatban is diadalmaskodott Török Ferenc és Móna István társaként. Az 1969-es csapatezüstérmet az 1970-es világbajnokságon aztán ismét aranyra váltotta a nagy hármas. Az 1964-es olimpián nem indulhatott, 1968-ban Mexikóvárosban egyéniben ezüstöt, csapatban aranyat nyert, 1972-ben pedig Münchenben – 34 évesen – egyéni olimpiai bajnokságot nyert, míg csapatban ezüstöt.
Balczó András pályafutása során 19 világbajnoki érmet szerzett, ebből 10 aranyat. Minden idők egyik legsikeresebb öttusázója volt, Magyarországon háromszor (1966, 1969, 1972) választották meg az év sportolójának, 1970-ben sportszerűségi díjat kapott. Kivételes tehetsége elhivatottsággal és akaraterővel párosulva segítette győzelemről győzelemre.
Versenyzői évei alatt két diplomát is szerzett a Testnevelési Főiskolán (vívó szakedző, öttusa szakedző), de visszavonulását követően nem tartottak igényt tapasztalataira, szaktudására. Hogy az öttusa közelében maradhasson, 1973-tól belovaglóként dolgozott, majd mivel úgy érezte, hogy nem részesült a teljesítményeit, személyiségét megillető támogatásban, távol tartotta magát a sporttól. 1983-tól szellemi szabadfoglalkozásúként tevékenykedett.