1913-ban a grófot kinevezték bukaresti követté, amely hatalmas polémiát váltott ki Magyarországon. A Függetlenségi Párt – különösen pedig Apponyi Albert gróf – egyenesen a Habsburg-dinasztia provokációját látta a kinevezésben, nem függetlenül Czernin a dualizmust, és különösen a magyar politikai elit magatartását bíráló kijelentéseitől.
Követi tevékenységének kulcsfontosságú időszakát 1916 nyara hozta el. Miközben a Monarchia hírszerzése már július végén kész tényként kezelte, hogy Románia belép az antant oldalán a háborúba, Czernin jelentéseiben közvetlenül a román hadüzenetig azt hangsúlyozta, hogy Bukarest még nem határozott a kérdésben. A román hadba lépés előtt néhány nappal a gróf Ion Bratianu román kormányfővel is tárgyalt, aki szemrebbenés nélkül letagadta, hogy Bukarest támadni készül. Mindent összevéve, Czernin bukaresti működése nem volt sikertörténet – és ez különösen Székelyföld 1916. őszi drámájának fényében jogosan váltott ki magyar bírálatokat, hiszen a Monarchiát felkészületlenül érte a román invázió.
Czernin – teljesen szakítva korábbi háborúpárti politikájával – ekkor már egyértelműen a háború mielőbbi befejezése mellett érvelt. Felismerte és a birodalom vezetése számára le is írta, hogy az idő előrehaladtával egyre gyengülnek a Monarchia pozíciói, így a békekötés nemcsak morális, hanem reálpolitikai szükségszerűség. Úgy vélem, hogy a grófot ezen – akkor egyértelműen kisebbségi – véleménye miatt nevezte ki az új uralkodó, IV. Károly külügyminiszterré. Czernin volt „az annexiók nélküli béke” jelszavának első prominens támogatója is. Minden korábbi hibája és baklövése ellenére a grófnak igaza volt abban, hogy mielőbb békét kell kötni, akár a Monarchia „arcvesztése” árán is.
A császár és új minisztere lényegében azonnal kísérletet tett a békekötésre: ide sorolhatjuk a központi hatalmak 1916. decemberi békejegyzékét. Károly utasítására Czerninnek naponta kellett tájékoztatnia Zita királynét a külpolitikai helyzetről. A gróf által szolgáltatott adatok és információk segítségével készítette elő az uralkodópár a Sixtus-missziót, amikor Zita belga haderőben szolgáló testvérei révén vették fel a kapcsolatot az antanttal. A külügyminisztert azonban nem vonták be teljesen a folyamatba, amelynek később súlyos következményei lettek.
1917 márciusában bekövetkezett az oroszországi forradalom, amely során detronizálták a cárt. Károly és Czernin helyesen ismerték fel, hogy most kínálkozik a legjobb alkalom a különbéke kötésére: ekkor még nem volt hadiállapot az Egyesült Államokkal, és a keleti fronti esetleges megszűnése kedvezőbb tárgyalópozíciókkal kecsegtetett nyugaton is. A külügyminiszter óvatosan megpedzette a németeknek azt a lehetőséget, hogy egy esetleges elzászi engedményt keleti kompenzációval, elsősorban egy Német Birodalomhoz kötődő lengyel állam létrehozásával lehetne ellensúlyozni.
1917. április 12-én – hat nappal az Egyesült Államok Németországnak való hadüzenete után –
Czernin memorandumban fordult Károlyhoz, amellyel ismét bizonyította politikai éleslátását. A feljegyzésben ugyanis kifejtette, hogy a központi hatalmak el fogják veszíteni a háborút, amelynek egyetlen és igazi győztese Amerika lesz.
A tárcavezető felismerte, hogy a konfliktus elhúzódása elsődleges amerikai érdek, és bármely tábor nyerjen is, Európa mint kontinens vesztes lesz. Feljegyzéseiben ekkor született meg annak gondolata, hogy az egész világháború valójában egy európai testvérháború – ez a meglátása majd a későbbiekben, Habsburg Ottó politikájában fog tovább élni.
Czernin pályájának zenitjét a bolsevik szovjet-orosz kormánnyal való tárgyalások jelentették. Miután 1917. december 22-én fegyverszünetet kötöttek a hadviselő felek a keleti fronton, hamarosan megkezdődtek a békéről való egyeztetések. Czernin a Monarchia álláspontjaként itt is az annexiók nélküli béke mellett tört lándzsát. Részben ennek szellemében 1918. február 9-én külön békeszerződést kötöttek Ukrajnával, amely modern államként ekkor jelent meg a térképeken. Három héttel később, március 3-án a breszt-litovszki békét is aláírták a központi hatalmak Szovjet-Oroszországgal. Ennek révén az Osztrák–Magyar Monarchia győztesen került ki a keleten folytatott küzdelemből, és nagymértékben izolálni tudta Oroszországot, amely hatalmas területeket vesztett el, és létrejöhetett a ma létező három balti állam, valamint Finnország is. Az akkori emberek számára a fő nyereség azonban az volt, hogy a gazdag ukrán mezőgazdasági területek felhasználásával enyhíthetőnek tűnt a Monarchia élelmezési krízise; ennek megfelelően Czerninben sokan egyfajta „kenyérbéke” megkötőjét tisztelték.
Bár a breszt-litovszki béke idején még egy erőteljes birodalom győztes minisztereként léphetett fel, Czernin hivatalának napjai meg voltak számlálva. A gróf bukását a Sixtus-affér okozta, még pontosabban az, hogy a tárcavezető nem ismerte Károly két, 1917 tavaszán elküldött levelét. Ezekben a császár és király lényegében elismerte a főbb antant hadicélokat és kompromisszumos békét kínált az ellenségnek, amelyre méltó választ azonban nem kapott. 1918. április 2-án Czernin azt nyilatkozta, hogy a béke egyetlen akadálya Franciaország ragaszkodása Elzász-Lotaringia visszaszerzéséhez. Erre válaszul Georges Clemenceau francia miniszterelnök publikálta Károly egy évvel korábbi leveleit, így bizonyítani tudta, hogy a király a németek megkerülésével akart békét kötni, mégpedig a háború egyik legneuralgikusabb kérdésének az antant számára kedvező rendezésével. A francia kormányfő ezzel végleg megfojtotta Károly békére igyekvő politikáját. A király a külügyminiszter felelősségének hangsúlyozásával kívánt menekülni a helyzetből és leváltotta miniszterét – ennek ellenére minden hitelét elvesztette domináns szövetsége, a Német Birodalom szemében. Maga Czernin is úgy vélte, hogy ekkorra két út maradt a dualista állam számára, vagy az antant igája alá kerül a németekkel együtt, vagy pedig – német győzelem esetén – Berlin alávetettje lesz.
Czernin kudarcai ellenére még ellenségei is elismerték érdemeit; a háború után például Edvard Benes úgy vélte, hogy „ő volt az utolsó külügyminiszter, aki még osztrák–magyar politikát folytatott”.
A háború és az összeomlás után az egykori tárcavezetőn egyértelműen a fatalizmus lett úrrá; úgy vélte, hogy a dualista állam felbomlása elkerülhetetlen volt: „Nem tudjuk megmondani, milyen formában játszódott volna le a Monarchia felbomlása, ha sikerült volna elkerülnünk a háborút. […] Meg kellett halnunk. A halál módját mi magunk választottuk meg. És mi a legborzalmasabb módot választottuk” – fogalmazott.
