J-Jozef Piłsudski 1867. december 5-én született a Vilnius melletti Zułówban. Gazdag földbirtokos családból származott, amelyben lengyel hagyományokat és hazafias szellemet ápoltak. Apja, szintén Józef, részt vett az 1863-as januári felkelésben, amikor a lengyelek megpróbálták visszaszerezni az 1772 és 1795 között, három egymást követő orosz-porosz-osztrák felosztás során elvesztett függetlenségüket.

Ezért a fiatal Piłsudski a vilniusi gimnázium 1885-ös elvégzése után orvosi tanulmányokra iratkozott be a Harkovi Egyetemen, ahol csatlakozott a szocialista-forradalmi Narodnaja Volja mozgalomhoz. Egy év tanulás után azonban eltanácsolták az egyetemről, mert részt vett a diáklázadásokban. Nem vették fel az észtországi Dorpat egyetemére sem, amelynek hatóságait tájékoztatták politikai szimpátiájáról.

Piłsudskit 1887. március 22-én letartóztatták a vilniusi szocialistákkal való kapcsolata miatt, és a II. Sándor cár megdöntésére irányuló összeesküvésben való részvétel vádjával öt évre Szibériába küldték - először a Léna folyó menti Kiryńskba, majd Tonkába.

1893-ban Varsóban megalakult a Lengyel Szocialista Párt (PPS). Piłsudski, aki egy évvel korábban tért vissza a száműzetésből, csatlakozott a litván tagozathoz, és 1894-ben a Központi Munkásbizottság tagja és a PPS Robotnik című folyóiratának főszerkesztője lett. Hat évvel később, a párt egyik vezető vezetőjeként az orosz hatóságok ismét letartóztatták, és a varsói citadellán bebörtönözték. Már a következő évben azonban Szentpétervárra szállították kórházba (mert a börtönben elmezavart szimulált), és az egyik orvos, Władysław Mazurkiewicz segítségével megszökött.

Galíciába való visszatérése után sem hagyott fel politikai tevékenységével. 1904-ben az Oroszországgal háborúban álló Japánba utazott, ahol tárgyalt a Mikádó-kormánnyal egy lengyel légió felállításáról a japán hadseregben. Segítséget azonban csak a PPS és a párt által létrehozott PPS Harci Szervezet fegyver- és lőszerbeszerzéséhez kapott. Ez a szervezet az 1905-1907-es forradalom egyik fő erejévé vált. Annak ellenére, hogy számos lázadást, zavargást és a rendőrséggel való összecsapást elfojtott, Piłsudski nem hagyott fel a lengyel fegyveres erő létrehozására irányuló erőfeszítéseivel. Amikor 1906-ban a PPS-ben szakadás történt, egy Piłsudskihoz kötődő csoport megalapította a Forradalmi Frakciót, amely a cár elleni felkelést tervezte.

1910-ben, az osztrák felosztáskor két jogi szervezetet hoztak létre: Lwówban a "Lövészegyletet" és Krakkóban a "Lövészegyletet". 1912-ben Piłsudski a Lövészegylet főparancsnoka lett. Az első világháború kitörésekor egy jól kiképzett egység élére állt, amellyel bevonult a Lengyel Királyságba, ahol elfoglalta az oroszok által elhagyott határvidék egy sávját. Ezt követően, miután megadta magát Ausztriának, hivatalosan létrehozta a lengyel légiót, és személyesen irányította az első dandárjukat, miközben szoros együttműködésben létrehozta a Lengyel Katonai Szervezetet (POW). Amikor 1917-ben a légiósok megtagadták az Ausztriának és Németországnak tett hűségesküt, Piłsudskit letartóztatták és Magdeburgban bebörtönözték, ahol 1918 novemberéig maradt.

1923-ban azonban a marsall visszavonult az aktív politikai élettől. Ennek oka az volt, hogy a jobboldali pártok meggyilkolták Gabriel Narutowicz lengyel köztársasági elnököt, akit alig egy héttel megválasztása után Eligiusz Niewiadomski festőművész a "Zachęta" galériában rendezett kiállítás megnyitóján ölt meg. Piłsudski képtelen volt együttműködni Wincenty Witos miniszterelnökkel, akit erkölcsileg felelősnek tartott a tettért. A Varsó melletti Sulejówekbe vonult vissza, ahol irodalmi munkának és ellenzéki propagandának szentelte magát. Akkoriban a következőket írták: "Gabrjel Narutowicz emlékei” (1923), „A légiósok katonájának értékéről” (1923), „1920” (1924), „Az ország tehetetlenségének forrása" (1924) i "Az első bóják” (1925).

Az országban kialakult helyzet azonban arra kényszerítette, hogy ismét politikai pályára lépjen. A társadalmi nyugtalanság, a munkanélküliek növekvő száma és a gazdasági válság arra késztette Piłsudskit, aki hatalmas társadalmi támogatást és tiszteletet élvezett, hogy követelje a Witos-kabinet lemondását a hatalomról. Amikor azonban fellebbezései kudarcot vallottak, 1926. május 12-én a marsall hűséges csapatai élén bevonult Varsóba, és háromnapos harcok után lemondásra kényszerítette mind a kormányt, mind Stanisław Wojciechowski elnök kabinetjét. Azonban nem fogadta el a jelölést erre a tisztségre - mivel tisztában volt annak korlátozott hatásköreivel, visszautasította, és helyette a katonai ügyek miniszteri, a haditanács elnöki és a fegyveres erők főfelügyelői tisztségét vállalta el. Kétszer volt miniszterelnök is (1926-1928-ban és 1930-ban).

Valójában ez jelentette a lengyelországi parlamentáris kormányzás végét, és a "sanacja" (a latin "sanatio" - gyógyítás szóból) néven ismert időszakot, az állam helyzetének javítását célzó kormányzatot. A közvélemény támogatása és az ezt biztosító ügyes retorika lehetővé tette Piłsudski számára, hogy olyan önkényuralmi hatalmat gyakoroljon, amellyel sem az elnök (akit egyébként is a marsall nevezett ki), sem a Szejm (amelynek hatáskörét az 1926. augusztus 2-án bevezetett alkotmánymódosítások révén korlátozta) nem tudott szembeszállni.

A külpolitikában Piłsudski igyekezett jó kapcsolatokat fenntartani a Szovjetunióval (1932-es megnemtámadási paktum) és Németországgal (1934). Mindkét megállapodás célja Lengyelország pozíciójának megerősítése volt szövetségeseinkkel és szomszédainkkal szemben.

Józef Piłsudski 1935. május 12-én bekövetkezett halála az egész nemzetet váratlanul érte. Szinte az utolsó pillanatig egy gyógyíthatatlan betegséget - májrákot - titkolt. Temetése hatalmas nemzeti megnyilvánulássá vált, amely az elhunyt marsall előtt tisztelgett. Holttestét a Wawel-székesegyház Szent Leonárd kriptájában temették el, királyok és a legkiválóbb lengyelek nemzedékei mellett, míg szívét végakaratának megfelelően ezüst urnába helyezték és Vilniusba szállították, ahol édesanyja sírjában nyugszik a Rossa temetőben.