Советская власть на острове просуществовала недолго. Уже 21 апреля 1920 году на рейде Александровска встал японский крейсер «Мисима». С него на берег был высажен десант – 2000 человек. Небольшой отряд красноармейцев сбежал на материк. Так что японцам никто не оказал сопротивления.
Японские оккупанты пытались создать «Автономное Сахалинское государство». Однако их затея оказалась несостоятельной, и 3 июля японское правительство заявило открыто об оккупации Сахалина. Оно обосновало эту акцию так называемым «николаевским инцидентом», имевшим место в марте 1920. Тогда японское командование заключило договор с партизанами «О мире и дружбе». Но само же нарушило его, начав боевые действия против отрядов, расквартированных в Николаевске. Партизанам удалось перехватить инициативу и разгромить японский гарнизон. Японские власти тут же направили в тот район дополнительные силы. А партизаны, отступая, расстреляли военнопленных и подожгли город. И вот эти события якобы послужили поводом для захвата Северного Сахалина.
Истинные же причины оккупации состояли в следующем:

- японцы стремились овладеть северосахалинскими нефтяными ресурсами, для обеспечения флота и промышленности энергетическим сырьём;
- их беспокоила конкуренция со стороны американцев, способных более эффективно использовать ресурсы Северного Сахалина;
- японское правительство всерьёз опасалось проникновения большевистских идей в Японию.
Токийская пропаганда широко освещала в прессе рассказы о «тёплом приёме», «улыбающихся школьниках», «благодарных аборигенах». Японское военное правление вызывало у российских граждан чувство протеста и возмущения. Российские законы были аннулированы и заменены японскими. Оккупированная территория была разделена на четыре района. Посёлки и улицы переименовали на японский лад. В школах стали преподавать японский язык как основной. В посёлках и деревнях японцы назначили своих старост. Японские купцы и промышленники потеснили российских партнёров. Была прервана почтовая связь с материком. Для передвижения местного населения ввели пропуска. Граждане России на родной земле чувствовали себя иностранцами. В тяжёлом положении оказались малые народности Сахалина. Японские купцы спаивали их и забирали за бесценок пушнину, оленей, рыбу. Целые стойбища вымирали от голода и болезней.
Японские предприниматели активно эксплуатировали природные ресурсы острова. Они быстро организовывали различные общества и акционерные компании для заготовки леса, рыбы, добычи нефти и угля. 15 тысяч японских рабочих, чиновников, военных, археологов (им поручили, во что бы то ни стало добыть доказательства о законности японских притязаний на северную часть острова), геологов и журналистов всячески подавляли несчастное российское население.
Были захвачены лучшие рудники. Они выбирали самые мощные пласты угля. Вырубали лучшие лесные участки. Без ограничения вылавливали ценные породы морской фауны. Причём большую часть добычи перерабатывали на тук и вывозили в Японию для удобрения полей.
По подсчётам специалистов, общий ущерб, нанесённый России за пять лет японской оккупации, составил 50 млн. золотых рублей.
Правительство РСФСР, а затем и СССР в течение 1921-25 годов неоднократно ставило вопрос на конференциях в Вашингтоне, Дайрене, Чанчуне и Пекине об освобождении Северного Сахалина. Но следует отметить, что в затяжке переговоров виновны не только японская сторона, но и советская, которая зачастую руководствовалась не национальными интересами, а догматическими установками и мифом о «мировой революции», якобы способной решить все проблемы, стоящие перед Россией.
Япония и СССР официально установили дипломатические отношения, подписав 20 января 1920 г. В Пекине соответствующее соглашение. Это была бескровная победа советской дипломатии. Более того, они официально подтвердили суверенное право СССР на северную часть острова и обязались уйти до 15 мая 1925 года, развеяв надежды агрессивных кругов, стремящихся прибрать к рукам весь Сахалин.
Это стало считаться дипломатической победой Советского Союза. Но всё-таки, советской стороне пришлось пойти на существенные уступки. Японцы на Северном Сахалине сохранили право разработки запасов угля и нефти в течение 45 лет. Они имели также право направлять исследовательские экспедиции для разведки новых нефтеносных участков.
Японские концессии были на Северном Сахалине до 1944 года.