A litvániai Zulówban (ma Zalavas) jött a világra, Vilnius közelében. A település az 1795-ig fennálló litván-lengyel államszövetség területén volt, majd Lengyelország harmadik felosztása után Oroszország uralma alá került. Az elszegényedő nemesi családban második fiúgyermekként érkező Pilsudski taníttatására anyja nagy hangsúlyt fektetett, az orosz hatalom folyamatos zaklatásai ellenére mindent megtanult a lengyel kultúráról, történelemről és nyelvről.

Orvosnak készült, de 1886-ban felfüggesztették, mert részt vett egy diákszervezkedésben. 1887 márciusában III. Sándor orosz cár elleni összeesküvés hamis vádjával letartóztatták, majd Szibériába száműzték. Csak öt év után, 1892-ben térhetett haza olyan betegségekkel, melyek nyomait egész életén keresztül viselte. 1893-ban csatlakozott az újonnan megalapított Lengyel Szocialista Párthoz, melynek hamarosan vezetője lett. A párt következő évben indult, s általa szerkesztett, Munkás című illegális lapja a lengyel függetlenség gondolatát hirdette. A cári rendőrség elől bujkálnia kellett, 1900-ban elfogták és elmegyógyintézetbe zárták, innen megszökött és Galíciába ment.

1904-ben létrehozta a szocialista párt fegyveres szárnyát, amely több alkalommal próbált meg felkelést kirobbantani, a mozgalom anyagi alapját 1908-ban többek között egy postavonat kirablásával teremtették elő. Lengyelország függetlenségének legfőbb akadályát nem a központi hatalmakban, hanem Oroszországban látta, s a nagy háborúra készülve szabályos katonai kiképzést nyújtó szervezeteket alapított. Az első világháborúban a tízezer fős lengyel légió a központi hatalmak oldalán, de önállóan vett részt.

A központi hatalmak 1916-ban deklarálták egy félig autonóm lengyel állam megalakulását abban a reményben, hogy még több lengyel csapatot küldhetnek az oroszok ellen a keleti frontra. Pilsudski, aki az ideiglenes Államtanácsban a hadügyminiszteri és főparancsnoki tisztséget kapta, előre látva a németek vereségét, 1917-ben megtiltotta katonáinak, hogy esküt tegyenek a központi hatalmakra. A hatóságok ezért letartóztatták, egységeit feloszlatták és betagolták az osztrák-magyar hadseregbe.

1918. november 11-én, az első világháborút lezáró német fegyverszünet aláírásának napján a két nappal korábban német börtönből szabadult Pilsudski bevonult Varsóba. A Régenstanács a lengyel fegyveres erők főparancsnokává nevezte ki, két hét múlva az ideiglenes köztársasági elnöki címet is megszerezte, ezzel megkezdődött a lengyel állam újjáépítése.  

A versailles-i béketárgyalásokon ő képviselte Lengyelországot, ahol meghúzták az ország északi, déli és nyugati határait. A rendezetlen keleti határ miatt 1920-ban lengyel-szovjet háború kezdődött, amelynek során a szovjet offenzívát csak Varsó alatt sikerült megállítani. Az ellentámadásba lendülő lengyel hadsereg elfoglalta Fehéroroszország és Ukrajna nagy részét, amit az 1921-ben Rigában megkötött béke elismert.

Pilsudski 1922-ben nem vállalkozott az elnökválasztáson való megmérettetésre, és 1923-ban a hadsereg főparancsnoki tisztségéről is lemondott. Három visszavonultságban töltött év után, 1926 májusában katonai puccsot hajtott végre. A következő kilenc évben lényegében Lengyelország diktátoraként csökkentette a parlament és a szenátus hatalmát, növelte a köztársasági elnök és a kormány befolyását, s maga haláláig megtartotta a hadügyminiszteri posztot. Az elnöki hatalmat erősítő, 1935 áprilisában elfogadott alkotmánya a II. világháborúig érvényben maradt. Külpolitikai téren a lengyel függetlenség biztosítása érdekében a nyugati hatalmak szövetségét kereste, s mindkét hatalmas szomszédjával, a Szovjetunióval és Németországgal is megnemtámadási szerződést írt alá.

1935. május 12-én Varsóban halt meg, s a krakkói Wawelben temették el. Alakját már életében legendák övezték, de a kommunista Lengyelországban negatív képet festettek róla. A történettudományban megítélése ellentmondásos, a lengyel köztudat azonban nemzeti hősnek tekinti.

(MTI)