Тем временем коммунисты набрали в свои партизанские отряды большое количество местных крестьян – например, в центральной части долины реки Янцзы они сформировали Новую Четвертую армию. Многие из партизан были вооружены только вилами, косами или в лучшем случае бамбуковыми кольями. Но после пленума Центрального комитета партии в октябре 1938 г. Мао дал строжайшую директиву: вступать в бой с японцами только в случае их нападения на подразделения коммунистов. Коммунистам необходимо было беречь свои силы для захвата территорий, находившихся под контролем националистов. Мао Цзэдун дал всем четко понять, что главным противником коммунистов, их «врагом номер один» является Чан Кайши.

Рейды японских войск в сельскую местность сопровождались массовыми убийствами и изнасилованиями, целью которых было запугать местное население. Японцы прежде всего убивали всех молодых мужчин в селе. «Они связывали их веревками, а затем рубили головы самурайскими мечами». После этого они обращали свое внимание на женщин. Капрал Накамура описал в своем дневнике в сентябре 1938 г. налет на деревню Лугочэнь к югу от Нанкина: «Мы захватили деревню и обыскали каждый дом. Девушек старались хватать самых красивых. Охота длилась почти два часа. Ниура застрелил одну из девушек, потому что у нее это было в первый раз, она была некрасива, и остальные солдаты ею побрезговали». Резня в Нанкине, а также бесчисленные зверства японцев в других районах страны вызвали возмущение крестьян и пробудили в них патриотизм. Такое невозможно было себе представить перед началом войны, поскольку крестьяне мало что знали о японцах, да и Китай как единую страну воспринимали с трудом.

Следующее крупное сражение произошло только в марте 1939 г., когда японцы перебросили крупные силы в провинцию Цзянси, чтобы захватить ее столицу Наньчан. Китайцы оказали ожесточенное сопротивление, несмотря на то, что японцы вновь применили отравляющий газ. 27 марта, после ожесточенных уличных боев, город пал. Сотни тысяч новых беженцев отправились в долгий путь на запад, согнувшись под тяжестью узлов, толкая перед собой деревянные тачки, наполненные доверху жалким скарбом – стегаными одеялами, различными инструментами, посудой. Волосы женщин посерели от пыли. Рядом с более молодыми ковыляли старики, с трудом передвигая скрюченные от боли ноги.

Генералиссимус отдал приказ о контрнаступлении с целью отбить Наньчан. Это стало полной неожиданностью для японской армии, и войска националистов в конце апреля даже смогли с боями ворваться в город, но их сил все же не хватило. Несмотря на то, что еще за несколько дней до контрнаступления Чан Кайши угрожал своим командирам расстрелом, если те не возьмут город, он все же был вынужден теперь отступить.

В мае, вскоре после начала советско-японских столкновений на Халхин-Голе, что заставило Сталина направить на должность командующего советскими войсками в Монголии Жукова, главный советский военный советник при штабе Чан Кайши стал склонять генералиссимуса к тому, чтобы начать мощное контрнаступление и отбить у японцев город Ухань. Сталин пытался ввести Чан Кайши в заблуждение относительно своей готовности заключить союз с Великобританией, тогда как в действительности он в это время уже был близок к заключению соглашения с нацистской Германией. Чан Кайши, правильно угадав, что Сталину просто нужно ослабить японское давление на советские приграничные районы, не пошел на решительные действия. К тому же националистов стала тревожить растущая поддержка Сталиным китайских коммунистов. Однако Чан Кайши резонно считал, что поскольку главной целью Сталина все же было удержать режим Гоминьдана в состоянии войны с Японией, то он будет сдерживать и вылазки китайских коммунистов против сил националистов.