Ezután az arabok következtek. Odo Aquitania hercege 721-ben legyőzte a támadó seregüket, de 732-ben újra támadtak az Ibériai- félszigetről. Károly és Aquitania egyesített serege a poitiers-i csatában legyőzte az arab sereget. 736-737-ben a tenger felől támadtak az az arabok, még a 720-as években támaszpontokat hoztak létre az arabok Provance területén, de Károly visszaverte a támadást és felszámolta támaszpontjaikat, ebben segítette szövetségese Liutprand langobard király. 

734-ben újra legyőzte a frízeket, 738-ban adófizetésre kötelezte a wesztfáliai szászokat. 

720-ban IV. Theudericht ültette a trónra, 737-es halála után nem nevezett ki új királyt. 

Károly nem riadt vissza az egyházzal a konfliktusoktól, egyházi birtokokat kobzott el és adományozott el beneficium birtoknak, lovas katonai szolgálatot kellett teljesíteniük a katonáknak ezekért a birtokokért cserébe.

Szent Bonifác támogatta ebben. Károly Bonifácot nevezte ki mainzi érseknek, amit Bonifác szervezett meg, az új érsek alá tartozott a négy új bajor egyházmegye is: Salzburg, Regensburg, Freising, Passau. 

Halála után fiai közt lett felosztva a frank állam. III. Pipin lett Neustria ura, Karlmann Austrasia ura.