Tjänstgöring som påvlig diplomat.
Giulio Mazzarino föddes som påvlig undersåte i Pescina i Abruzzerna, nära Rom, och tillbringade sin barndom i en region vars temperament, tankesätt och romersk-katolska synsätt kom att genomsyra hela hans liv. Hans far, Pietro, var en romaniserad sicilianare i konstapeln Filippo I Colonnas hushåll; hans mor, Ortensia Bufalini, av en adlig toskansk familj, var släkt med Colonna-huset genom äktenskap. Mazzarino insåg redan från början fördelarna med att ha mäktiga beskyddare och lärde sig att utnyttja dem till sin fördel. Trots ekonomiska svårigheter och de utgifter som en stor familj medförde (ytterligare en son, som blev munk, och fyra döttrar) kunde Mazzarino skicka Giulio till jesuitskolan i Rom, där han var en utmärkt elev.
Med en ung medlem av familjen Colonna till Spanien kompletterade han sin utbildning vid universitetet i Alcalá de Henares (numera Madrids universitet), där han studerade juridik och sedan återvände han till Rom, angelägen om att lära sig mer om aristokratins levnadssätt och världsliga angelägenheter. Från Colonna fick han 1624 en kaptenstjänst i den påvliga armén, och när han tjänstgjorde i Loreto genomgick han på juldagskvällen 1625 en ovanlig mystisk religiös upplevelse, eller ”själens lugn”, som skulle komma att utöva ett visst inflytande på hans liv. Han trädde in i Heliga stolens diplomatiska tjänst och utnämndes 1628 till sekreterare hos den påvlige legaten i Milano, G.F. Sacchetti; på denna post fick han för första gången tillfälle att spela en aktiv politisk roll.
I januari 1630, under kriget mellan Spanien och Frankrike om tronföljden till Mantuas krona, skickade Sachettis efterträdare, Antonio kardinal Barberini, Mazarin till Frankrike för att förhandla med storkardinal de Richelieu. Den unge mannen fascinerades av den mäktige ministern: ”Jag beslöt”, skrev han, ”att helt och hållet ägna mig åt honom”. Kort därefter fick den unge sekreteraren ett internationellt rykte när han dramatiskt galopperade mellan de två motsatta arméerna som var på väg att slåss vid Casale in Monferrato den 26 oktober 1630 och ropade ”Fred, fred!” som om freden hade slutits. Resten av sitt liv skulle han bli ihågkommen som den oförskräckte riddare som riskerade sitt liv mellan två arméer för att stoppa striderna. Även om spanjorerna hävde belägringen av Casale återstod mycket att göra för att få till stånd en allmän uppgörelse. Genom fördraget i Cherasco (19 juni 1631), som förhandlades fram av Mazarin, installerades den franske kandidaten i Mantua, men avtalet löste endast meningsskiljaktigheterna mellan Frankrike och Savoyen.
Mazarins beslut att ägna sig åt Richelieu hindrade honom inte från att också få beskydd av kardinal Barberini, påven Urban VIII:s yngsta brorson, som han fick. Efter Mazarins återkomst till Rom 1632 inkluderade Barberini honom i en krets av konstnärer, målare och musiker, innan han 1634 fick ett uppdrag som extraordinär nuncio (ambassadör) vid det franska hovet. Där, vid Richelieus sida, vann Mazarin maktens gunst och blev hängiven den franska nationen, vars ”hjärtats och sinnets öppenhet” imponerade på honom. Han glömde dock inte sitt uppdrag, som var att förhandla fram den fred mellan Spanien och Frankrike som Urban VIII eftersträvade; därför var det med förtvivlan som han såg Richelieu dra in Frankrike öppet i trettioåriga kriget i maj 1635.
I sin egenskap av legat återkallad till Avignon, sedan till Rom (december 1636), fortsatte han att utöva inflytande på den franska politiken genom sin korrespondens med Richelieu och dennes rådgivare, fader Joseph. Tillsammans med sina vänner kardinalerna Barberini, Nicholas Bagni och Alessandro Bichi ledde Mazarin den franska fraktionen inom det påvliga hovet. Ludvig XIII av Frankrike belönade hans ansträngningar genom att rekommendera honom som kunglig kandidat till kardinalämbetet 1638, gav honom kyrkliga pensioner och benefikationer (för att vara berättigad till dem fick Mazarin franska naturaliseringspapper 1639) och bjöd slutligen in honom att återvända till Paris, dit han anlände den 5 januari 1640. Besviken över att hans ambitioner i Rom hade motarbetats av den spanska fraktionen lämnade Mazarin den påvliga tjänsten för att träda i Frankrikes tjänst. Det var till Frankrike och i synnerhet till Richelieu som han hade att tacka för den kardinalhatt som påven gav honom den 16 december 1641, även om Urban VIII själv hade varit positivt imponerad av de ansträngningar som hans tidigare undersåte gjorde till förmån för den allmänna freden.