17 IX 1939 roku władze polskie wyjechały do Rumunii. Nie była to, jak sugerowali krytycy rządów sanacyjnych, ucieczka przed wojskami okupacyjnymi, lecz działanie mające na celu doprowadzenie do powstania rządu emigracyjnego, co zapewniało ciągłość państwa polskiego.
Prezydent i rząd nie dotarli do Francji. Zostali internowani w Rumunii, oficjalnie za złamanie obietnicy niepodejmowania żadnej działalności politycznej na terenie tego neutralnego przecież państwa. W rzeczywistości decyzję o internowaniu wymogła na Rumunii Francja, która nie chciała mieć na swym terenie emigracyjnego rządu o sanacyjnej przeszłości. Pamiętać trzeba bowiem, że Francja nieprzychylnie oceniała pomajowe władze polskie. Internowany prezydent Mościcki wybrał swego następcę. Początkowo proponował Bolesława Wieniawę-Długoszowskiego, a po sprzeciwie Francji (był to bowiem polityk sanacyjny) Władysława Raczkiewicza. On z kolei powołał 30 IX 1939 roku nowy rząd na czele z Władysławem Sikorskim jako premierem i naczelnym wodzem. Siedzibą polskiego rządu był początkowo Paryż, potem Angers (od 22 XI 1939 roku), a wreszcie Londyn, po agresji Niemiec na Francję. Powstanie rządu emigracyjnego było pierwszym krokiem tworzącym zręby Polskiego Państwa Podziemnego. Kolejny istotny jego etap polegał na stworzeniu oficjalnych, choć konspiracyjnych sił zbrojnych Polski. 27 IX 1939 roku zapoczątkowano proces budowy podziemnej armii; w kapitulującej Warszawie utworzono Służbę Zwycięstwu Polski z gen. Michałem Karaszewiczem-Tokarzewskim na czele. 13 XI 1939 roku nastąpiło przekształcenie tej organizacji, do tej pory polityczno-wojskowej, w ściśle podporządkowany władzom emigracyjnymi wyłącznie o charakterze militarnym, Związek Walki Zbrojnej. Kierował nim gen. Kazimierz Sosnkowski. Wreszcie 14 II 1942 roku ZWZ przemianowano na Armię Krajową, której władze zwierzchnie, w przeciwieństwie do poprzedniczki, znajdowały się na terenie okupowanym, a nie w Londynie. AK kierował komendant główny, a funkcję tę pełnili kolejno: gen. Stefan „Grot” Rowecki, po jego aresztowaniu w 1943 roku gen. Tadeusz „Bór” Komorowski, kierujący AK do końca <powstania warszawskiego>, a wreszcie od października 1944 r. gen. Leopold Okulicki „Niedźwiadek”, który 19 I 1945 r. wydał decyzję o rozwiązaniu Armii Krajowej.
Karta pamiątkowa kolportowana w podziemiu w 1941 roku
Organizacja ta nie była jedyną działającą na ziemiach polskich. Spore znaczenie miały także tworzone przez konspiracyjne Stronnictwo Ludowe Bataliony Chłopskie (ok. 160 tys. żołnierzy, dowódca Franciszek Kamiński), Narodowe Siły Zbrojne (ok. 65 tys. żołnierzy, dowódcy: Ignacy Oziewicz, Stanisław Nakoniecznikoff), lewicowa Armia Ludowa, a także o mniejszym znaczeniu: Tajna Armia Polska, Związek Czynu Zbrojnego itp.
Poszczególne oddziały zbrojne, w największym zaś stopniu Armia Krajowa, podlegały reprezentantowi rządu emigracyjnego na terenie okupowanym, którym był tzw. delegat rządu na kraj. Funkcje te pełnili kolejno: Cyryl Ratajski, Jan Piekałkiewicz, Jan Jankowski, Stefan Korboński. Poza władzami politycznymi i organizacjami wojskowymi Polskie Państwo Podziemne tworzyło także szereg konspiracyjnych instytucji, zajmujących się tajnym nauczaniem, propagowaniem kultury narodowej (konspiracyjne koncerty, spektakle teatralne itp.), nawet sportu. Wszystkie te inicjatywy spowodowały wytworzenie unikatowego w okresie II wojny światowej tworu w postaci Polskiego Państwa Podziemnego.