1924年，奉系东北王张作霖进攻直系吴佩孚，是为第二次直奉战争。双方在冀东一带大战，直系大将冯玉祥与吴佩孚因军饷等事情翻脸；冯玉祥带兵从前线秘密返回，到了北京，囚禁了总统曹锟，迫使曹锟免去吴佩孚职务，推翻北洋政府，史称“北京政变”。吴佩孚率残部从海路逃到南方；曹锟，直系军阀头目，1923年总统选举时，以重金贿赂国会议员，当选为总统。

冯玉祥派部将鹿钟麟带兵到紫禁城，将溥仪赶了出去；这对溥仪不好，但从长远说，是好事：若到了抗日战争时期，日本人说不定会扶植溥仪，复辟清朝，建立傀儡政权。冯玉祥发动政变后，将所部改为“中华民国国民军”，邀请孙中山北上，共商国政。

但冯玉祥犯了个错误：面对直系吴佩孚的威胁，把皖系段祺瑞请了出来；奉系张作霖也带兵进入关内，到了北京；段祺瑞和张作霖互相勾结，排斥冯玉祥，夺取了中央政权，段祺瑞任“中华民国临时执政”，任命冯玉祥为“西北边防督办”。孙中山于1924年北上，从上海取道日本到北京。孙中山发表北上宣言：对内打倒军阀，召开国民会议；对外打倒支持军阀的帝国主义，废除不平等条约；等。1924年11月，孙中山到了天津，然而孙中山肝病发生；12月底，孙中山带病进北京，北京十多万群众欢迎孙中山。1925年1月，孙中山在病中召开国民会议，与段祺瑞等军阀斗争。1925年3月12日，孙中山在北京逝世。就像孙中山先生所说“余致力国民革命，凡四十年”，除了推翻清朝，并没有实现中国的民主共和，只是军阀混战的乱局，人民遭殃、生灵涂炭。孙中山领导发动的辛亥革命是有意义的：推翻了清朝，结束了满清朝廷的异族统治；虽然未能实现民主，可总是个有别于旧封建的新社会了。孙中山对中国是有巨大贡献的，从他个人说，仅当了几个月临时总统，经历了许多政治上的坎坷磨难，像陈炯明叛变、围攻孙中山，孙中山逃到军舰上；可以说是饱经沧桑，郁郁不得志。孙中山虽有些私心杂念，但孙中山的伟大，不是能诋毁的。

当时，发生了风起云涌的农民运动；领导农民运动的代表人物是彭湃。彭湃在1924年任国民党中央农民部秘书，领导发动了广东海陆丰农民运动。就像毛泽东在《湖南农民运动调查报告》中反映的，农民运动主要是组织农民、发动农民，减租减息、分田地、批斗地主，等等。彭湃在搞农民运动过程中，感到缺乏干部，就提出创办“农民运动讲习所”；国民党中央会议同意了彭湃的提议，委任彭湃为广东农民运动讲习所第一任主任。其他各地也办了讲习所，农民运动在全国开展起来。在后来的文化大革命中，当年被彭湃批斗镇压的地主后代，在文革中掌了权，进行阶级报复，杀害了彭湃家属族人几千口。彭湃早在1927年，就被国民党杀害。

1925年5月15日，上海日本人开的一家棉纺厂，故意关闭工厂，停发工人工资；工人顾正红带领工人与资本家讲理，要求复工、发工资。日本人不但不听，反而开枪，打死顾正红，打伤工人十多人。5月30日上午，上海工人、学生两千多人，在各街道散发传单、讲演，揭露帝国主义罪行。租界巡捕房逮捕了100多人。上万各界群众聚集在老闸捕房门口，高呼口号，要求释放被捕学生；英国巡捕开枪屠杀，打死十三人，打伤十多人，逮捕一百五十多人。6月1日，又枪杀3人，打伤18人；这就是“五卅惨案”。6月1日起，上海全市开始总罢工、总罢课、总罢市。外国资本家警察又多次开枪，打死打伤数十人；前后有20多万工人罢工，5万多学生罢课，商人罢市。6月1日，中共方面成立“上海总工会”，李立三任委员长；6月4日，成立“上海工商学联合会”。五卅运动席卷全国，各地共有1700多万人参加了运动。6月11日，汉口游行群众到公共租界时，英国水兵向人群开枪，打死数十人，打伤三十多人；进一步激起中国人民的怒火。帝国主义分化瓦解，与中国资产阶级勾结，商人不再罢市。北京政府电令上海戒严司令部，解散总工会，通缉李立三，限令各工会一律取消。罢工学生、工人、群众没有被吓倒，继续斗争。经过谈判，英日资本家基本答应了工会提出的条件，8月到9月，陆续复工。租界，是殖民地；外国人自然欺压中国人，但当时中国人也是有觉悟的，不是那样好糊弄，奋起斗争；然而只有彻底收回租界，中国强大起来，才是正理。

香港、广州发生了“省港大罢工”；起因主要是为了支援五卅运动。6月，成立了苏兆征、邓中夏为领导人的“省港罢工委员会”；省港大罢工是世界上迄今为止罢工最长的一次罢工，坚持了十六个月。广州罢工工人、学生、农民、部分黄埔军校学生游行到沙基时，租界的英国军队向游行队伍开枪，珠江的英法军舰也开炮，当场被打死50多人，受伤170多人，这就是“沙基惨案”。中国人在自己的土地上游行，外国军队居然向手无寸铁的游行人员开枪；这就是祖国弱小的悲哀。

1925年，北洋政府段祺瑞支持广东军阀陈炯明，乘孙中山北上，自称“救粤军总司令”，企图攻打广州，推翻革命政府。广东革命政府，当时的称呼是“陆海军大元帅府”；以黄埔学生军为主力，组成“东征联军”，以杨希闵为总司令，进行东征，东征军五万多人，分三路进攻陈炯明。陈炯明部有六万多人；先攻下淡水，攻打淡水时，以一百多名黄埔学生组成“奋勇队”，率先攻入城内；接着，阻击了惠州援军，攻占平山，弃惠州孤城，继续东进，攻占海丰、陆丰，打败企图夹击东征军的林虎部；3月20日，攻占兴宁，陈炯明其他各部溃逃；惠州守军向东征军投降，打垮了陈炯明主力。黄埔学生军战斗力很强，领导人还有蒋介石、周恩来等人；东征黄埔军纪律严明，“不扰民间一草一木”，与旧军阀有很大不同。东征军围歼陈炯明残部时，滇桂军阀陆荣廷等，进攻广州，发动叛乱；东征军回师平叛，迅速平定了叛乱，保卫了革命政权。

1925年9月，陈炯明残部在东征军回师广州后，又进行叛乱，重占潮州和汕头。和广东东南部的军阀邓本殷勾结，企图进攻广州。广东国民政府决定第二次东征。总指挥蒋介石，还有周恩来、汪精卫、胡汉民、何应钦、李济深、程潜、刘尧宸等领导人；刘尧宸在攻打惠州时中弹牺牲。东征军首先攻下惠州，之后，分为三路。11月4日，攻下五华、兴宁、梅县、大浦，追击到福建；陈炯明残部彻底被打垮。国民革命军另一部消灭了军阀邓本殷的队伍，广东革命根据地得到巩固，为以后的北伐奠定坚实基础。

在1925年7月1日，“陆海军大元帅府”改组为“国民政府”，汪精卫为“国民政府主席”。

当时各路人马云集广州，正如黄埔军校校歌“这是革命的黄埔，怒潮彭湃”；国民党也不像后来那么腐败。尤其是蒋介石，蒋介石在孙中山活着的时候，紧密靠拢孙中山；孙中山去世后，蒋介石已有自立门户的想法。蒋介石以黄埔军校及黄埔学生军为基础，建立着自己的派系，与汪精卫、胡汉民等元老分庭抗礼。蒋介石通过些手段，整倒了军界上司许崇智，成了国民政府负责军队的重要领导人。可以说，在那熙熙攘攘的广州，蒋介石是最清醒的。

蒋介石对共产党员加入国民党有些异议、不愿容纳，而且蒋介石的第一军中有很多共产党员，蒋介石担心军权旁落，指挥起来也很不应手，就策划了“中山舰事件”；目的是将第一军中的共产党员排除出去。中山舰事件也叫“三二〇事件”，发生在1926年3月20日；蒋介石让黄埔军校的个股长欧阳钟向海军局代局长、中山舰舰长李之龙传达了假命令：调中山舰到黄埔。中山舰到黄埔岛后，蒋介石说李之龙要搞兵变、绑架他到苏联；中山舰返回广州后，就派兵占领了中山舰，逮捕了李之龙。蒋介石放出谣言，“共产党要暴动”、“要造反”，宣布广州戒严，包围省港罢工委员会、共产党领导人住宅、共产党机关；然后将第一军中的共产党员驱逐出去。有的说法是，出于误会，蒋介石不知情，误以为李之龙要搞兵变，蒋才采取了那些措施。这种看法未必靠得住；那么，“整理党务案”呢？“中山舰事件”后不久，蒋介石又抛出了“整理党务案”。

加入国民党的共产党员，有的在国民党担任着高级职务，蒋介石策划将他们排斥掉。1926年4月1日，蒋介石、谭延闿、宋子文、张静江、吴稚晖、孙科等人，在国民党二届二中全会上提出“整理党务决议案”；加入国民党的共产党员在国民党各级党部如果任委员，不得超过该党部委员数额的三分之一；共产党员不得担任国民党中央各部部长；国民党员不得加入共产党；加入国民党的共产党员名单须交国民党中央；等等。国民党左派和中共退让，《整理党务决议案》通过；担任国民党中央部级职务的毛泽东、林祖涵（林伯渠）、吴玉章、谭平山等人辞职；其中，毛泽东是代中宣部长、林伯渠是军委秘书长、谭平山农民部长。通过中山舰事件和整理党务案，39岁的蒋介石成了国民党权力最大的铁腕人物；蒋介石当时的职务是：国民党中央军委主席；国民党中组部长；国民革命军总司令；军人部长；国民党中央委员会主席。

之后，国共两党、各界人士，筹措策划北伐。