На відміну від Леніна, Пілсудський не цурався індивідуального терору (втім, і більшовицький лідер відкидав цей метод «революційної боротьби» не з якихось етичних міркувань, а вважаючи його неефективним). Ще у найперші роки сторіччя пепеесівці здійснили низку терористичних актів проти представників царської адміністрації. У цьому їхні методи боротьби цілком збігалися з методами російських соціалістів-революціонерів есерів. Бойовики ППС грабували банки та поштові потяги, передаючи здобуті кошти на «цілі революційної боротьби». Юзеф Пілсудський зажив слави чудового організатора таких акцій, так само, як трохи згодом його грузинський тезко Іосіф Джугашвілі.
Після вибуху російсько-японської війни 1904 року Пілсудський терміново вирушив до Токіо. Виходячи зі старої мудрості ірландських незалежників «Труднощі для Англії шанс для Ірландії», він відправився до Острівної імперії з тим, щоб запропонувати японцям розгорнути скоординовану терористично-диверсійну кампанію в тилу російських військ силами польських соціалістів. Японський генеральний штаб відкинув план Пілсудського як фантастичний. Проте історія ця через деякий час стала відомою і змусила з огидою відвернутися від Пілсудського деяких його прибічників (так само, як не пішло на користь репутації Леніна співробітництво з німецьким Генштабом у роки Першої світової).
1905 року в Російській імперії почалася революція. Польща стала одним з районів найактивніших революційних боїв. Тут Пілсудський почувався як риба у воді. Він створював бойові організації, закликав до загального повстання. А, проте, координувати свої дії із російськими соціалістами есдеками, есерами, більшовиками, меншовиками, відмовлявся навідріз. Нова революційна Росія була для Пілсудського таким самим ворогом, як і Росія царська.
Саме така його непримиренна позиція стала чи не головною причиною розколу його партії. За Пілсудським пішла тільки меншість, яка утворила ППС-правицю або ж офіційно ППС-фракцію революційну.
Але як би там не було, революція зазнала поразки і мета створення незалежної Польщі, здається, відсунулася ще далі.
У когось іншого опустилися б руки. Але не в Пілсудського. Вже 1907 року він приступає до створення в австрійській Галичині військово-спортивних організацій «Стшелєц» (Стрілець). До речі, українські «гімнастично-пожежні» товариства «Січ» та «Соколи» виникли в тій самій Галичині саме на противагу (і під великим впливом) польським організаціям Пілсудського. І хтозна, чи звалися б Українські січові стрільці саме «стрільцями», якби на назві «стшелєц» не зупинився Пілсудський.
Починаючи з 1908 року польський соціаліст налагодив співпрацю з австрійським Генштабом. Австрійці сподівалися, що Пілсудський напередодні великої війни з Росією нейтралізує пропаганду народових демократів з російської Польщі, які прагнули «обєднатися» з Галичиною у складі Росії, а після вибуху війни допоможе перетворити запальних польських патріотів на гарматне мясо, яке покірно вмиратиме за інтереси Габсбурґів. Пілсудський же розраховував, що австрійці не заважатимуть йому ідейно, технічно та фізично школити кадри для майбутнього польського війська, яке у великій європейській війні дійсно буде відважно битися з росіянами, але не за інтереси струхлявілої Дунайської імперії, а за власну державу.
Цей альянс викликав тоді і викликає досі чимало застережень морального характеру. Як міг такий патріот, як Пілсудський, співпрацювати з історичними ворогами своєї країни, «піти на службу» до тих, хто разом з росіянами та пруссаками за століття перед тим знищив і розділив Річ Посполиту? Та й імператору Францу-Йосифу було якось непристойно звязуватися з соціалістом-терористом. Але політика брудна річ. І кожна з двох сторін цинічно намагалася використовувати іншу в своїх цілях. Кому ж це вдалося краще? Відповідь відома: Австро-Угорська імперія безславно і безповоротно розпалася у листопаді 1918-го. А Пілсудському вдалося на руїнах трьох імперій відновити Польщу.
Велика війна, якої так очікував Пілсудський, вибухнула у липні 1914 року. І відразу ж він розвинув суперенергійну діяльність. Як результат, незабаром Відень дозволив сформувати у складі австрійської армії добровільні польські легіони (і українські, до речі, теж). Військовозобовязані за власним вибором могли вступати до цих легіонів добровольцями, або іти служити до звичайних «загальноавстрійських» частин. Цісар зовсім не відкрив зелену вулицю полякам та українцям у їхніх прагненнях створювати масові національні формування. Згідно з таємними розпорядженнями Відня місцева влада мала чинити все можливе, аби до Польського легіону та до Легіону Українських січових стрільців не йшли представники «нижчих» верств населення робітнича та селянська молодь, які мали б служити в австрійських частинах. Легіони розглядали як «забавку» для національно свідомих молодих українців та поляків, перш за все студентів та гімназистів, які б просто так помирати за цісаря не пішли, а могли б навіть бути джерелом якихось антиавстрійських виступів. Відтак національні легіони в австрійського штабу були немовби пасинками їм давали найгірше озброєння, ставили на найнебезпечніші місця в бою тощо. І хоча Пілсудському вдалося «виторгувати» у австрійців польського орла на кашкети своїх легіонерів, на рукавах вони змушені були носити жовто-чорну повязку кольори Габсбурґів. День, коли Пілсудський був змушений почепити таку повязку, став, за його власним спогадом, днем найбільшого приниження в його житті. Пілсудському не вдалося отримати загального командування над усіма польськими легіонами. Формально він командував лише Першою бригадою. Проте він був «коханим Комендантом» для всіх легіонерів. І кожному з них передавалася непохитна віра Пілсудського, що легіонери проливають свою і чужу кров не заради чужого цісаря, а за власну батьківщину.