Kálmán több testvérrel rendelkező hercegként élt I. László király, azaz nagybátyja gyámsága alatt. Kiváló és gondos nevelésben részesült, de nem számított a trón várományosának mert nagybátyja nem őt, hanem öccsét, Álmos herceget szánta utódjának.
A kiemelkedő szellemi képességekkel bíró, de állítólag testi hibás hercegre az egyházi pálya várt. Az 1090-es évek elején püspökké is szentelték, de később erről a méltóságáról pápai engedéllyel lemondott. Testi fogyatékosságát egyes későbbi krónikaírók eltúlozták, hogy vele szemben Álmost, illetve az ő később hatalomra jutott utódait jobb színben tüntethessék fel.
Meglepő fordulat, nem várt hatások
A Szent László halálát követő trónviszályból, amely Kálmán és öccse, Álmos között zajlott, végül az előbbi került ki győztesen. Kálmán támogatói között tudhatta az egyházat és a hazai elit jelentős részét, de öccse, Álmos még sokáig nem mondott le a hatalomról. 1098-ban a két testvér Várkonynál egyezséget kötött, aminek eredményeként Kálmán a királyságot tarthatta meg, Álmos pedig dukátust (hercegség) kapott, amit egészen 1107-ig birtokolhatott. A területet és a tisztséget Kálmán vette el öccsétől, mert az folyamatosan hatalmára tört. 1107–1108 fordulóján állítólag még merényletet is tervezett a király ellen. Utolsó kísérlete Kálmán uralmának megdöntésére 1115-ben történt, amikor bátyja őt és fiát, a későbbi II. (Vak) Bélát, hogy alkalmatlanná tegye őket az uralkodásra, megvakíttatta.
Kálmán időközben lelkesen támogatta a pápa kezdeményezésére indított első keresztes hadjáratot.
Az 1096 nyarán érkező nyugati sereg előhada azonban komoly csalódást jelentett. A vandál módon fosztogató kereszteseket Kálmán kegyetlenül leverte, a békés szándékkal érkező csapatok nyugodt átvonulását azonban saját haderejének felvonultatásával biztosította.
Közben Horvátország belügyei keltették fel a magyar király figyelmét. A déli irányban offenzív külpolitikát folytató Kálmánt végül 1102-ben Tengerfehérvárott horvát királlyá koronázták. 1105-ben elfoglalta Dalmáciát is. Hogy a terület stabilizálását biztosítsa, Szent László leányát, Piroskát a későbbi bizánci uralkodóhoz, II. (Komnénosz) Jánoshoz (1118–1143) adta feleségül. A Magyar Királysághoz újonnan hozzákapcsolt területek irányítására Kálmán létrehozta a báni méltóságot. Szvjatopolk kijevi nagyfejedelem kérésére fegyveres segítséget nyújtott számára az orosz belviszályokban, de Przemysl ostrománál az ellenséges orosz részfejedelmek a kunok segítségével megrendítő csapást mértek a magyar király vezette erőkre. Kálmán beavatkozott a lengyel belviszályokba is, amelyek során III. Boleszlávot támogatta. A vele szövetségre lépő lengyel uralkodóra később maga is számíthatott V. Henrik német királlyal és Szvatopluk cseh fejedelemmel szemben vívott csatáiban.
Kálmán uralkodása belpolitikai szempontból is sikeresnek mondható. Modernizálta az ország törvényeit, László szigorú rendeletein enyhített. A királyságot stabilizálta, az egyházszervezetet a nyitrai püspökség létrehozásával tovább építette.