J-Jozef Pilsudski sa narodil 5. decembra 1867 v Žulove pri Vilniuse. Pochádzal z bohatej zemianskej rodiny, v ktorej sa pestovali poľské tradície a vlastenecký duch. Jeho otec, tiež Jozef, sa zúčastnil januárového povstania v roku 1863, keď sa Poliaci opäť pokúšali získať nezávislosť, ktorú stratili v rokoch 1772 až 1795 počas troch po sebe nasledujúcich rusko-prusko-rakúskych delení.

Preto keď mladý Pilsudski po absolvovaní gymnázia vo Vilniuse v roku 1885 nastúpil na lekársku fakultu Charkovskej univerzity, pridal sa tam k socialisticko-revolučnému hnutiu Narodnaja volja. Po roku štúdia ho však z univerzity vylúčili za účasť na študentských nepokojoch. Neprijali ho ani na univerzitu v Dorpate v Estónsku, ktorej vedenie bolo informované o jeho politických sympatiách.

Za svoju spoluprácu s vilniuskými socialistami bol Piłsudski 22. marca 1887 zatknutý a poslaný na päť rokov na Sibír, najprv do Kyrinska nad Lenou a potom do Tranky, na základe obvinenia z účasti na sprisahaní s cieľom zvrhnúť cára Alexandra II.

V roku 1893 bola vo Varšave založená Poľská socialistická strana (PPS). Piłsudski, ktorý sa rok predtým vrátil z exilu, vstúpil do jej litovskej pobočky a v roku 1894 sa stal členom Ústredného robotníckeho výboru a šéfredaktorom časopisu Robotnik vydávaného PPS. O šesť rokov neskôr ho ako jedného z vedúcich predstaviteľov strany opäť zatkli ruské úrady a uväznili vo varšavskej citadele. Hneď v nasledujúcom roku ho však previezli do nemocnice v Petrohrade (vo väzení totiž simuloval nepríčetnosť) a odtiaľ s pomocou jedného z lekárov, Władysława Mazurkiewicza, utiekol.

Po návrate do Haliče sa nevzdal svojich politických aktivít. V roku 1904 odišiel do Japonska, ktoré bolo vo vojne s Ruskom, kde vyjednával s vládou Mikado o zriadení poľskej légie v rámci japonskej armády. Získal však len pomoc pri nákupe zbraní a munície pre PPS a Bojovú organizáciu PPS, ktorá bola zriadená v rámci strany. Táto organizácia sa stala jednou z hlavných síl revolúcie v rokoch 1905-1907. Napriek potlačeniu viacerých nepokojov, vzbúr a zrážok s políciou Piłsudski pokračoval v úsilí o vytvorenie poľskej ozbrojenej sily. Keď v roku 1906 došlo k rozkolu v PPS, skupina spojená s Piłsudským založila Revolučnú frakciu PPS, ktorá plánovala povstanie proti cárovi.

V roku 1910 boli v rakúskom zábore založené dve legálne organizácie - "Strelecký spolok" vo Ľvove a "Strelecký spolok" v Krakove, ktoré viedli vojenský výcvik a teoretické prednášky. V roku 1912 sa Piłsudski stal hlavným veliteľom Streleckého zväzu. Po vypuknutí prvej svetovej vojny sa postavil na čelo dobre vycvičenej jednotky, s ktorou vstúpil do Poľského kráľovstva, kde obsadil pás pohraničného územia opusteného Rusmi. Následne, po podriadení sa Rakúsku, oficiálne vytvoril poľské légie a osobne velil ich prvej brigáde, pričom v úzkej konšpirácii založil Poľskú vojenskú organizáciu (POW). Keď v roku 1917 legionári odmietli zložiť prísahu vernosti Rakúsku a Nemecku, Piłsudski - hoci sa rok predtým vzdal velenia a stal sa členom Dočasnej štátnej rady, ktorá požadovala vytvorenie národnej vlády vo Varšave - bol zatknutý a uväznený v Magdeburgu, kde zostal až do novembra 1918.

V roku 1923 sa však maršal stiahol z aktívneho politického života. Dôvodom bol atentát pravicových skupín na poľského prezidenta Gabriela Narutowicza, ktorého len týždeň po jeho zvolení zabil maliar Eligiusz Niewiadomski na otvorení výstavy v galérii Zachęta. Piłsudski považoval za nemožné spolupracovať s premiérom Wincentym Witosom, ktorého považoval za morálne zodpovedného za spáchaný čin. Utiahol sa do Sulejówku pri Varšave, kde sa venoval literárnej práci a opozičnej propagande. V tom čase boli napísané nasledujúce texty: "Spomienky na Gabrijela Narutowicza” (1923), „O hodnote vojaka légií” (1923), „1920” (1924), „Základom bezmocnosti vlády je" (1924) i "Moje prvé bitky” (1925).

Situácia v krajine ho však prinútila vrátiť sa na politickú scénu. Sociálne nepokoje, rastúci počet nezamestnaných a hospodárska kríza spôsobili, že Piłsudski, ktorý sa tešil veľkej podpore a úcte verejnosti, požadoval, aby bol kabinet Witosa zbavený moci. Keď však jeho výzvy neboli úspešné, maršal 12. mája 1926 na čele jemu verných jednotiek vpochodoval do Varšavy a po trojdňových bojoch prinútil vládu aj kabinet prezidenta Stanisława Wojciechowského odstúpiť. Nomináciu na tento úrad však neprijal - vedomý si jeho obmedzených kompetencií ho odmietol prijať a namiesto toho sa ujal funkcie ministra vojenských záležitostí, predsedu Vojenskej rady a generálneho inšpektora ozbrojených síl. Dvakrát zastával aj funkciu predsedu vlády - v rokoch 1926-1928 a 1930).

V skutočnosti to znamenalo koniec parlamentnej vlády v Poľsku a začiatok obdobia známeho ako "sanacja" (z latinského podstatného mena "sanatio" - liečenie) - vlády, ktorej cieľom bolo zlepšiť situáciu v štáte. Podpora verejnosti a šikovná rétorika, ktorá ju zabezpečovala, umožňovala Piłsudskému vykonávať autoritársku moc bez odporu prezidenta (mimochodom, menovaného maršalom) alebo Sejmu, ktorého právomoci boli obmedzené zmenami ústavy zavedenými 2. augusta 1926.

V zahraničnej politike sa Piłsudski snažil udržiavať dobré vzťahy so ZSSR (pakt o neútočení z roku 1932) a Nemeckom (1934). Cieľom oboch dohôd bolo posilniť pozíciu Poľska voči našim spojencom a susedom.

Smrť Jozefa Piłsudského 12. mája 1935 zaskočila celý národ. Takmer do poslednej chvíle skrýval nevyliečiteľnú chorobu - rakovinu pečene. Jeho pohreb sa stal obrovskou celonárodnou manifestáciou na počesť zosnulého maršala. Jeho telo bolo pochované v krypte svätého Leonarda vo wawelskej katedrále, vedľa generácií kráľov a najvýznamnejších Poliakov, zatiaľ čo jeho srdce bolo v súlade s jeho vôľou uložené do striebornej urny a prevezené do Vilniusu, kde bolo uložené do hrobu jeho matky na cintoríne Rossa.