I april 1942 ble legasjonen og generalkonsulatet i Shanghai stengt av japanske myndigheter og lokaler samt arkiver overlatt i det svenske generalkonsulatets varetekt. Personalet ved legasjonen og generalkons. i Shanghai samt personalet ved den stengte legasjonen i Tokyo ble fraktet til Portugisisk Øst Afrika (Mocambique), som var nærmeste nøytrale territorium. Senere i 1942 ble det opprettet en legasjon hos den kinesiske regjeringen i "krigshovedstaden" Chungking. Legasjonen ble i juli 1943 oppgradert til ambassade. Regjeringen flyttet fra Chungking til Nanking ved årsskiftet 1945/46, men pga. boligmangel i Nanking fikk den norske ambassade tillatelse til å slå seg ned i Shanghai fra nov. 1945. I nov. 1948 ba regjeringen i Nanking om at ambassaden måtte bli etablert på stedet istedenfor i Shanghai. I de følgende måneder fulgte ambassaden, ved en av de ansatte, den nasjonalistiske regjering rundt i landet etter hvert som den ble drevet tilbake av kommunistene.