1937年2月中旬至3月中旬，国共第二次合作谈判在西安正式举行。中共代表周恩来、秦邦宪、叶剑英与国民党代表顾祝同、贺衷寒、张冲进行了第一轮谈判，在红军改编和陕甘宁边区地位等问题上未能取得一致的意见。1937年3月中旬至4月初，周恩来、秦邦宪、叶剑英在杭州与蒋介石、顾祝同、邵力子进行了第二轮谈判。蒋介石提出：国共合作，在国民党内阻力很大，是不是可以不提国共合作，只提共产党和他本人合作。周恩来认为这样做会缩小共产党的威望和影响，不能同意。蒋介石没有坚持他的意见，希望周恩来回延安后，拿出一个具体可行的合作共同纲领，然后再到庐山去继续谈判。

时间又过去了一个多月，周恩来就要来庐山了，这次谈判能不能达到目的，蒋介石心中实在是没底。他知道这位昔日的黄埔军校政治部主任不是容易对付的人物，在原则问题上决不会轻易让步。几天来，蒋介石和党政军高级官员商谈了多次，问题的关键是共产党的军队。长期从事政工的贺衷寒、朱怀冰等人再三提醒蒋介石，现在的共产党已非10多年前所能相比，共产党现在虽然只有4万主力和近10万地方武装，暂时还难和国民党200万军队抗衡，但共产党的主力部队大都是在10年内战中磨炼出来的，极具战斗力，一遇到有利条件，就会迅速壮大，切不可低估，正如毛泽东所说的“星星之火，可以燎原”。如果不能控制和掌握中共的军队，任其发展，只恐养虎成患，终被虎伤。顾祝同、何应钦等提议将红军分散安置到各个战区去，使他们孤掌难鸣，如果中共坚持要整体改编，则要尽力压缩人数，并由国民党派人任指挥主官，毛泽东、朱德、周恩来离开红军，到国民政府来任职。蒋介石认为这些部属的分析都很有道理，但他深深知道，今日的共产党决不会在军队问题上让步，只有解决好这个问题，才有可能实行两党的合作。