“我们的原则是党指挥枪，而决不容许枪指挥党。”
——毛泽东：《战争和战略问题》（年11月6日）
从年到年，回顾党的这28年光辉的革命史，最能体现毛泽东英明的莫过于，他制定了“党指挥枪，而不是枪指挥党”的建军原则。
毛泽东年1月，革命数十年屡战屡败的孙中山痛定思痛，决定调整革命方向，在国民党第一次全国代表大会上宣布实行“联俄、联共、扶助农工”三大政策，开始了第一次国共合作，由此拉开国民革命序幕。6月，国共合作的第一个成果诞生：创办了黄埔军校。
9月，杰出的中国共产党党员周恩来奉中央之命从法国回到广州，出任中共广东区委委员长、黄埔军校政治部主任。周恩来在迅速打开黄埔军校政治工作新局面的同时，也在深入思考孙中山革命数十年为何没有成功？周恩来最后总结，就是因为孙中山没有组建一支真正的革命军。
在征得孙中山的同意后，周恩来在广州挑头组建了“大元帅府铁甲车队”，队长徐成章、副队长周士第和军事教官赵自选都是周恩来从黄埔军校挑出来的共产党员。可以说，这支铁甲车队实际上就是中国共产党领导下的最早的一支革命武装。
在铁甲车队的基础上，周恩来又于年11月之后组建了由共产党人领导的第四军独立团，团长由刚从苏联学习回国的共产党员叶挺担任，周士第担任参谋长。一些营长、连长和各级领导，都是从黄埔军校挑选出来的共产党员，而且从团到连都建立了共产党的组织。团里干部任免、调动、人员补充以及军政工作都由周恩来亲自过问，这其实就是中国共产党领导和掌握的第一支正规军队了。
北伐战争开始后，在独立团出发前，周恩来专门向连以上共产党员干部作了振奋人心的动员讲话，号召大家担负起北伐先锋的任务。北伐战争中叶挺独立团一马当先，所向披靡，为北伐军扫清了沿途的各种障碍，一直登上了武昌城，由此为国民革命军第四军赢得了“铁军”的称号。铁军的奥秘就在于，它是一支由共产党人领导的军队，打仗都是共产党员冲在最前面。
年，蒋介石发动“四一二”反革命政变，国共合作破裂，为了挽救革命，中共中央发动了南昌起义，起义的主力是叶挺率领的国民革命军第十一军第二十四师。聂荣臻后来回忆，当时，我们党已经认识到了组织军队的重要性，但还不够。是什么时候开始对党领导军队的重要性有了足够的认识呢？那就是毛泽东领导秋收起义以后。
古田会议年，毛泽东组织、发动了秋收起义，随后带领起义队伍上了井冈山。从这时起，毛泽东对这支队伍的性质就定为共产党领导的革命武装。年4月，朱德率领南昌起义余部万余人和毛泽东在井冈山会师。这两支队伍合在一起，就是后来中央红军的主要来源。
那么，这支队伍该叫什么番号呢？因为共产党的领导，这支队伍的番号就叫做“工农革命军第四军”，6月，改称“中国工农红军第四军”，也叫“红四军”。之所以叫“红四军”，其实就是沿用当初叶挺“铁军”的威名。朱德任军长，毛泽东任党代表，朱毛红军就此诞生。
红四军成立之时就召开了第一次代表大会，毛泽东被选为第四军军委书记，毛泽东在给中央的报告中总结这支军队的特点：有连支部、营委、团委、军委四级党组织。连有支部，班有小组，红军之所以艰难奋战而不溃散，“支部建在连上”是一个重要原因。由此可见，共产党的领导决定了这支队伍具有旺盛和顽强的生命力。
但“党指挥枪”原则的最终确定，并不是那么一帆风顺，而是经历了许多波折。当时红四军内部蔓延和充斥着各种非无产阶级的思想，有人提出以军事机关即司令部代替党的领导，其实质也就是要实行“枪指挥党”，遭到毛泽东的坚决反对，因为毛泽东认为，这种单纯军事观点发展下去，会有脱离群众、以军队控制政权、离开党的领导的危险，会沦为像国民党军队那样，走军阀主义的道路。
毛泽东一针见血地指出，在红四军要绝对建立起党的领导权，红四军大部分是从旧式军队脱胎出来的，便带来了一切旧思想、就习惯、旧制度、旧作风；红四军的大部分是从失败环境下拖出来的，能得救完全是靠个人的领导，因此造成了个人庞大的领导权。这两个问题就是导致红四军不能绝对建立起党的领导的主要原因。
最后在毛泽东、周恩来和陈毅、朱德等人的努力下，年召开了古田会议，以从根本上解决“红四军不能绝对建立起党的领导”的问题。在毛泽东的努力下，会议进一步确立了党对军队绝对领导的原则，强调要用无产阶级思想克服各种非无产阶级思想。由此，红军中党的绝对领导的问题基本得到解决。
叶挺而离开了共产党的领导，即便是像叶挺这样勇猛善战的名将，也接连受挫，而这也恰恰是纠缠了叶挺大半生的困惑。年共产党员叶挺参加领导了南昌起义和广州起义，但他受到当时党中央“左”倾领导人不公正的对待，愤而脱离党组织飘零海外，离开党组织的叶挺时常感到“空虚和不足”，抗日战争爆发后，叶挺出于民族大义回国参加抗日战争。
此时，国共正在商谈改编南方红军游击队为新四军的事宜，选谁做军长成了难题。中国共产党自然要求确立党对新四军的领导，蒋介石却是迫于形势不得不同意保留共产党领导的这支军队，最后，经周恩来提议由叶挺出任新四军军长，蒋介石同意，因为蒋介石是想利用叶挺这个非共产党员的名将来削弱中共对新四军领导权。
蒋介石的目的是想让新四军变成“枪指挥党”，偏偏这一时期又受到王明的“一切经过和服从统一战线”的错误路线的干扰，无形中又给党对新四军的领导形成一定的冲击，在这关键时刻，毛泽东旗帜鲜明地指出，我们党要自觉成为抗日战争的领导者，枪杆子要掌握在自己手里，我们的原则是党指挥枪，而决不容许枪指挥党！
由于毛泽东的这一旗帜鲜明的主张，使新四军成立后的领导权和指挥权完全掌握在共产党手里，这让蒋介石感到新四军失控了，即便任命了叶挺，也无法掌控这支军队，因而他最终下定决心发动“皖南事变”来消灭新四军，事变发生后，叶挺身遭囚禁，失去自由长达5年之久。经过中共中央无数次营救，叶挺终于在年3月4日出狱。
出狱第二天，叶挺就郑重致电毛泽东转中共中央，提出重新加入中国共产党的申请：决心实现我多年的愿望，加入伟大的中国共产党。3月7日，毛泽东为中共中央起草致董必武和王若飞的电文，表示同意叶挺入党。8日，按毛泽东指示，《新华日报》发表了中共中央复叶挺电，在电文中对叶挺加入中国共产党致以热烈的慰问与欢迎。
叶挺重新回到党组织，高兴得像个孩子一样，流着眼泪连夜给刘少奇和任弼时写回信。他在信中说，我的热泪不时泛起，不可抑止。他表示要结束过去，开展新生。叶挺说，他含着热泪写这封信，一是表示感激党中央对他的殊遇，二是请求党组织帮助他解决学习问题。叶挺最后在信中说，“我很高兴，从此之后，我能很自然地亲切地称你们为同志了！”