Fill de Carles Martell i de Rotruda. El seu pare, en morir (741), li deixà el seu càrrec de majordom del palau i Borgonya, Nèustria i Provença, mentre el seu germà Carloman rebia igualment el càrrec de majordom i Austràsia, Suàbia i Turíngia. Fins el 747 compartí el poder amb el seu germà i ambdós lluitaren contra llur germà consanguini Gripó i es repartiren el seu petit domini. Alliberat Gripó, es refugià prop dels saxons, i es revoltà contra Pipí, i el 748 a Baviera, fins que finalment Pipí li donà la vila de Mans i dotze comtats; però el 751 Gripó es retirà a la cort del duc d’Aquitània.
El 752, després d’haver estat decalvat el darrer rei merovingi Khilderic III, Pipí fou proclamat rei a Soissons amb l’assentiment del papa i ungit per l’arquebisbe de Magúncia Bonifaci, primera vegada que això es feia a un rei franc i instaurant així la dinastia carolíngia. L’any següent, després d’haver atacat victoriosament el ducat d’Aquitània i els sarraïns de Septimània —on el got Ansemon li lliurà Nimes, Magalona, Agde i Besiers—, fou consagrat de nou pel papa Esteve II a Saint-Denis, consagració que estengué a la seva muller Berta i als seus fills Carles i Carloman, en canvi de l’ajuda al papa contra el rei llombard Astolf, el qual assetjà a Pavia i obligà a cedir al papat Ravenna i el seu exarcat (755). Triomfà també contra els saxons; el 759 els gots de Narbona, després d’anorrear la guarnició sarraïna, li lliuraren la ciutat, amb garantia de respecte al seu règim particular, fet que representà el seu domini sobre tota la Septimània i de tot el Rosselló fins a l’Albera. Del 760 al 768 combaté el ducat d’Aquitània, fins que, malalt, es féu portar en pelegrinatge a Saint-Martin-de-Tours i després a Saint-Denis, on morí. Els seus fills Carles i Carloman es repartiren els estats paterns, però el gran continuador de la seva obra seria el primer, que des del 771 regnaria sol.
Fou home de gran valor personal, de clara visió d’estadista i un remarcable cap militar, tot i la seva baixa estatura, a la qual fou degut el seu sobrenom. Suscità un petit cicle llegendari que es reflectí en algunes cançons de gesta (Mainer, Basin i sobretot Berte aux grands pieds), subsidiari, evidentment, del del seu fill Carlemany.