公元316年十月，汉赵大司马、中山王刘曜已对长安围困近两个月。安定郡太守焦嵩、新平郡太守竺恢与弘农郡太守宋哲等皆声称各自率军前来救援长安，但迟迟未见踪影。散骑常侍华辑则不断催促京兆郡、冯翊郡、弘农郡和上洛郡迅速派遣援军前往长安。
四郡太守的部队虽集结于霸上（今陕西省西安市东灞河畔），却因惧怕刘曜的强大兵力而不敢贸然前进。唯有相国司马保麾下将领胡崧领兵东进，抵达长安城西约数十里外的灵台。
刘曜得知胡崧率军驰援长安的消息后，心中颇为不满，随即暂时解除对长安的包围，向西进军迎击胡崧。
在灵台一役中，刘曜遭到失败。然而，胡崧却担心若彻底击败刘曜，晋朝长安的势力或将重新崛起，尚书仆射索綝与大都督麹允等人的权势也会随之增强。因此，他率领部队退至渭水北岸，停止了进一步的进攻行动。
最终，胡崧撤退至雍州始平郡治下的槐里县（今陕西省兴平市）。
刘曜虽然初次交锋便告失利，但当他得知秦州援军胡崧已退守槐里，且四郡兵马驻扎霸上却不敢轻举妄动时，便大胆地再次对长安城发动猛攻。
刘曜迅速攻陷长安外城后，尚书仆射索綝与大都督魏允等人护卫着晋愍帝司马邺撤退至长安小城继续坚守。
此时的长安城，内外交通完全隔绝，城内粮食极度匮乏，一斗米的价格飙升至两金，甚至出现了骇人的人吃人惨象。百姓因饥饿而死者超过半数，尚存一口气的人纷纷逃离城外，局势已无法控制。
在如此危急的情势下，仅有凉州派遣的一千兵马仍在坚守长安小城，保护着皇帝司马邺等人。太仓中仅剩用于酿酒的数十块曲饼，麹允将其煮成稀粥进献给司马邺食用，但很快也被消耗殆尽。
时值十一月，长安已进入寒冬，天气异常寒冷。年仅十七岁的晋愍帝司马邺泪流满面地对麹允说道：“长安已是穷途末路，外援无望，粮草耗尽，朕只能忍辱负重，出城投降，或许百姓还能有存活的机会。”
司马邺又召见侍中宗敞，叹息道：“朕落到今日这般境地，皆因麹允、索綝之误。”
宗敞听后也十分悲痛。
随后，司马邺说道：“朕打算向匈奴汉国的军队投降，请侍中为朕撰写降书，并送至城外的刘曜处。”
然而，尚书仆射索綝得知侍中宗敞准备出城递送降书的消息后，暗中派人将宗敞截留，转而派自己的儿子出城拜见刘曜。
索綝的儿子来到刘曜的军营，对刘曜说道：“目前长安城内粮草充足，可支撑一年，大王若想攻下长安并非易事。倘若大王愿意任命我父亲索綝为开府仪同三司，并封他为万户郡公，我们愿意献城投降。”
刘曜听后勃然大怒，说道：“我身为匈奴皇家兵马的统帅，率军征战十五年，从不依靠阴谋诡计来击败敌人，而是要让敌人彻底失败后才接受投降。没想到索綝竟然派他的儿子来说这样的话！”
刘曜随即下令处死索綝的儿子，并将其首级送回长安城，同时传话道：“如果长安城内还有足够的兵马和粮草，请继续坚守；如果已经弹尽粮绝，最好尽早投降。”
索綝得知儿子被杀的消息后，深感懊悔，于是派遣侍中宗敞带着司马邺的降书出城。
十一月十日，宗敞抵达刘曜的大营。刘曜看完司马邺的降书后非常高兴，命令宗敞暂时返回长安，告诉司马邺自己愿意接受投降，但要求必须表现出诚意。
宗敞回到长安小城，将刘曜的意思向司马邺汇报。
11月11日，北风呼啸，年仅17岁的司马邺乘坐羊车，赤身裸体、口中含着玉璧，带着棺材从长安东门出发，前往刘曜的军营投降。
长安城内的晋朝官员们痛哭失声，他们扶着羊车，有人紧紧抓住司马邺的手。司马邺也悲痛万分，泪流满面。御史中丞吉朗叹息道："文不能出谋划策，武不能战死沙场，今日怎能君臣相随，去侍奉匈奴贼寇？"随即拔刀自尽。
刘曜在军营接受投降，命人焚烧了棺木，收下了玉璧。他安排宗敞陪同司马邺暂时回宫，两天后再到军营准备启程前往平阳（今山西临汾）。
11月13日，刘曜派人押送司马邺和晋朝官员离开长安，前往汉赵首都平阳。
四天后的11月17日，队伍抵达平阳。汉赵皇帝刘聪大喜过望。次日，长期不上朝的刘聪登上光极殿，群臣将领先后就位。司马邺与尚书仆射索綝、大都督麹允等进入大殿，向刘聪叩拜称臣。
麹允睹此情景悲从中来，在大殿上失声痛哭。刘聪本想把这次朝会办成汉赵帝国的盛大庆典，听到哭泣声十分恼怒，当即下令将麹允关入大牢。麹允最终在狱中自杀。
在光极殿上，刘聪再次颁布诏令：任命司马邺为光禄大夫，并封其为怀安侯。在这次攻陷长安、灭亡晋朝的战役中，大司马刘曜功勋卓著，因此刘聪下旨赐予刘曜黄钺，同时任命他为大都督，都督陕西诸军事，加封太宰，晋爵为秦王，坐镇长安。
此外，刘聪还宣布大赦天下，并改年号为“麟嘉”。他听闻麹允忠义刚烈，于是追赠麹允为车骑大将军，追封为节愍侯。而得知索綝为官贪婪狡诈后，刘聪下令将其绑赴街市斩首示众。
令人叹息的是，这位被斩于平阳街头的索綝，正是魏晋时期著名书法家索靖之子。
更为悲壮的是，西晋自公元311年五月至公元316年十一月间，怀帝与愍帝先后被掳至匈奴汉国的都城平阳，这一历史事件不禁让人联想到八百年后北宋徽宗、钦宗同样被掳至女真五国头城的命运。
随着晋愍帝司马邺被俘，西晋实际上已无皇帝可言。直至公元317年，身处江东的丞相司马睿先自称晋王，随后于公元318年正式称帝，延续晋室血脉，东晋由此正式建立。
与此同时，刘曜攻克长安，彻底消灭西晋王朝，使得汉赵政权的疆域扩展至雍州境内。至此，汉赵已在并州、司州、冀州、兖州、青州及雍州等多地占据部分郡县，但尚未完全控制任何一个州。就在这一时期，汉赵骠骑大将军石勒对并州的刘琨发动了进攻，意图夺取整个并州。
公元316年十一月，石勒亲率大军奔赴并州，大将孔苌等随行出征。数日后，石勒的部队穿越太行山，进入并州的乐平郡，并包围了乐平郡治所沾城（今山西省和顺县西北）。乐平郡太守韩据自知难以抵挡，急忙派人前往阳曲（今山西省阳曲县）向大司空刘琨求援。
刘琨得知石勒进军并州的消息后，心中极为不快。他当然记得半年前，石勒曾派遣石虎南下攻打其子刘演驻守的兖州，结果刘演战败，兖州失守。如今，石勒竟亲自领军来犯并州，这让刘琨更加愤怒。
由于数月前刚与拓跋鲜卑的一支精锐部队结盟，刘琨决定借此机会与石勒一较高下。那么，刘琨是如何获得这支鲜卑劲旅的支持的呢？这还得从三年前说起。
三年前，代公拓跋猗卢驻守盛乐城（今内蒙古和林格尔县），他偏爱幼子拓跋比延，一心希望他继承爵位。于是，拓跋猗卢将长子拓跋六修调离盛乐城，派往新平城（今山西省山阴县南）驻防，并废黜了拓跋六修的生母。
拓跋六修有一匹日行五百里的骏马，拓跋猗卢要求他交出这匹马，准备将其赐予拓跋比延。
公元316年三月，时代公拓跋猗卢已被西晋朝廷册封为代王。当时，拓跋六修前往盛乐城探望父亲拓跋猗卢，但拓跋猗卢却要求他向年幼的弟弟拓跋比延行跪拜之礼。然而，拓跋六修对此感到不满，并拒绝了这一要求。
还有一次，拓跋猗卢特意让拓跋比延坐在自己的马车上外出游玩。当拓跋六修远远看到这辆马车时，以为是父亲驾临，便在路旁跪下行礼。然而，随着马车渐渐靠近，他才发现车上坐着的是拓跋比延。拓跋六修顿时又羞又愤，随即返回了自己的驻地新平城。
得知长子拓跋六修擅自离开后，拓跋猗卢派人传召他返回盛乐城，但拓跋六修并未遵命。这让拓跋猗卢勃然大怒，于是亲自率领军队攻打拓跋六修。
面对父亲的进攻，拓跋六修整顿兵马进行抵抗，结果拓跋猗卢惨败而归。为了躲避追杀，拓跋猗卢换上了普通百姓的衣服藏匿于民间，却被一位贫困的妇女发现。这名妇女将消息告知了拓跋六修，随后拓跋六修找到了父亲并将他杀害。
与此同时，代王拓跋猗卢的侄子拓跋普根当时正驻守边境。听闻拓跋六修弑父的消息后，他立即起兵讨伐拓跋六修。最终，拓跋普根击败了拓跋六修，并将其处死。
拓跋普根继位成为代王，然而此时的代国却陷入了内乱。
拓跋普根的部众多为纯正的拓跋鲜卑部落成员，被称为“旧人”。而前任代王拓跋猗卢的部众中，除了拓跋鲜卑部落外，还有汉人和其他民族，这部分人被称为“新人”。“新人”与“旧人”之间矛盾重重，难以融合，最终爆发了严重的冲突和杀戮。
左将军卫雄和信义将军箕澹原本是拓跋猗卢的手下，他们不愿与拓跋普根的“旧人”共处，决定带领部众投靠并州的刘琨。但为了确保部众愿意跟随，他们散布谣言说：“听说‘旧人’要对我们‘新人’进行屠杀，我们该怎么办？”
这一消息让汉人和乌桓人感到恐慌，纷纷表示：“我们愿誓死追随两位将军！”
于是，卫雄和箕澹率领三万家汉人与乌桓人，携带十万头马、牛、羊，以及作为人质的刘琨之子刘遵，南下前往并州归顺刘琨。刘琨得知后十分欣喜，亲自到平城（今山西省山阴县北）迎接，他的势力也因此得以重新壮大。
再说，石勒得知刘琨派遣箕澹带领两万步骑兵前来，决定主动迎击，给对方一个沉重打击。
这时有人劝阻他：“箕澹率领的是塞外拓跋鲜卑的精锐部队，士气正盛，难以抵挡。将军不如暂时率军后撤，挖掘深沟、修筑高垒以削弱敌军锐气。等到双方攻守态势发生变化时，再出击，必定能取得大胜。”
然而，石勒听后勃然大怒，说道：“箕澹的军队虽然人数众多，但长途奔袭而来，人马疲惫不堪，指挥也不统一，不过是一群乌合之众罢了。我们一战就能击溃他们，何来强大之说？而且，大军一旦出动，岂能轻易撤退？假如我们后退，而箕澹趁机进攻，到时候我们连回头迎战的时间都没有，更别提挖沟筑垒了。这不是自寻死路吗？”
随即，石勒下令将进言之人处斩。
接着，石勒任命孔苌为前锋都督，并向全军下达命令：“最后一个离开营门的人，格杀勿论！”
同时，石勒派出一支小队登上山头作为疑兵，又在沿途布置了两道伏兵。随后，他亲自率领孔苌等轻骑兵与箕澹展开交锋。战斗中，石勒故意示弱，一边打一边撤退，引诱箕澹追击。
箕澹果然中计，率军紧随其后，最终进入了石勒设下的埋伏圈。
此时，埋伏的士兵突然杀出，石勒也调转马头反扑，形成前后夹击之势。箕澹的军队顿时溃不成军。箕澹和卫雄拼死突围，一路逃回代郡（今河北蔚县），万余匹战马被石勒缴获。乐平郡太守韩据见势不妙，弃城而逃。
此役过后，并州百姓无不震惊。驻守阳曲的刘琨长史李弘更是宣布献出并州，归顺石勒。
刘琨得知李弘向石勒投降的消息后，再考虑到自己手下的兵马已无力一战，顿时陷入了进退维谷的困境。恰在此时，幽州刺史段匹磾派使者送来书信，邀请刘琨前往幽州。
公元316年十二月五日，刘琨带领残余部队，取道飞狐谷（位于今河北省蔚县东南部），前往段匹磾所在的蓟城（现今北京市）。段匹磾见到刘琨后，极为敬重，两人不仅结为儿女亲家，还义结金兰成为异姓兄弟。
自公元306年十二月抵达并州起，至公元316年十二月撤退至幽州止，刘琨在并州度过了整整十年时光。
这十年间，刘琨虽努力经营，北与代国拓跋鲜卑联盟，南与匈奴汉赵抗衡，但始终未能取得显著成就，最终还是败给了石勒。
随着刘琨的落幕，另一位英雄祖逖即将登上历史舞台，不过那是另一段故事了。
安抚流民石勒启用李回，祖逖谯城初遇石虎公元316年十一月，汉赵骠骑大将军、陕东伯石勒攻破刘琨，成功占领并州。他一方面派遣使者前往平阳（今山西省临汾市），向汉赵皇帝刘聪汇报战果并献上战利品；另一方面下令将阳曲、乐平郡的百姓迁往襄国，并重新任命了郡守和县令。石勒在妥善处理完并州事务后，准备率领大军返回襄国（今河北省邢台市）。
然而，就在石勒即将班师之际，他收到消息：在他出征期间，自己任命的南和县（今河北省南和县）县令赵领勾结冀州平原国与渤海郡的数千户百姓发动叛乱。紧接着，冀州河间国的邢嘏也聚集数百人马响应反叛。
面对冀州三处郡国接连背叛的局面，石勒深感忧虑。他迅速调整战略，留下将领孔苌率领精锐骑兵北上追击箕澹和卫雄，同时亲自带领一部分兵力赶赴冀州平定叛乱。
到达冀州后，石勒任命长乐太守程遐为宁朔将军，负责监督冀州七郡的各项军事事务。在他的果断处置下，冀州的叛乱很快被平息，各郡国重新归顺。
再来说说将领孔苌追击箕澹、卫雄残部的事。孔苌一路追击至幽州代郡（今河北蔚县）境内，最终成功斩杀了箕澹和卫雄，这支鲜卑军队至此被彻底消灭。
孔苌在返回襄国的途中，又接到石勒的命令，要求他攻打活动于幽州与冀州边界的流民首领马严和冯腊。原来，司州、冀州、并州、兖州等地有数万户流民逃到了辽西郡（今河北卢龙县），并且不断有新的流民前来投奔。这些流民在首领马严等人的带领下，拒绝听从襄国的号令，导致冀州北部一带的百姓无法安心耕种。
石勒对流民首领马严等人极为不满，于是命令孔苌在南下回师襄国时顺便攻打他们。然而，孔苌久攻不克，这让石勒十分焦虑，于是向右长史张宾询问对策。
张宾建议道：“流民首领马严等人并非将军的仇敌，流民们也渴望安定的生活，并且他们对故土怀有深厚的感情。依我之见，孔将军不如先回师襄国，然后选派一位贤能的太守去安抚流民。这样一来，幽州与冀州之间的局势必定会趋于稳定，流民也会陆续返回家乡，而马严等人自然就会瓦解。”
石勒非常认同张宾的看法，连连称赞：“右侯说得太对了！”
接着，石勒问道：“那谁可以承担这个重任呢？”
张宾回答：“冀州安平郡武遂（今河北武强县西北）县令李回一向以政绩斐然著称，他完全可以胜任这一职务。将军不妨提拔他为高阳郡（今河北博野县东南）太守。”
石勒采纳了张宾的建议，下令孔苌回师襄国，并任命李回为易北督护、振武将军兼高阳郡太守。随后，李回便正式上任，开始履行他的职责。
流民首领马严的部下大多源自西晋将领李潜的军队，而李回曾担任李潜的长史，因此部众一向敬重李回的威望与德行。当他们得知李回被任命为高阳郡太守时，纷纷脱离马严，转而投靠李回。
马严闻讯惊恐万分，匆忙逃往幽州，途中不幸溺水身亡。另一位流民首领冯赌则率部向李回投降。李回将高阳郡的治所迁至易京（今河北雄县），并广发告示，号召流民回归故土。消息传开后，流民络绎不绝地返回家园，道路上人流不断。
石勒得知此事后十分高兴，当即封李回为弋阳子爵，并赐食邑三百户。同时，他还增加了右长史张宾的采邑一千户，并准备提拔张宾为前将军。然而，张宾坚决推辞了这一任命。
从张宾拒绝接受前将军职位可以看出，此前石勒三次拒绝刘聪加封其为征东大将军，很可能正是采纳了张宾的建议。
此后半年，石勒未发动任何对外战争。直到公元317年六月，他派遣石虎南下攻城略地，却在谯郡（今安徽亳州）与北伐中原的祖逖相遇。
公元316年十一月，长安城沦陷于汉赵之手，晋愍帝司马邺不幸被俘。同年十二月，驻守建康（今江苏省南京市）的晋朝丞相司马睿得知这一噩耗后，却突然下令全军备战，准备北伐。
司马睿真的有北伐的决心吗？早在公元313年八月，他便收到当时皇帝司马邺的诏令，要求其率军北伐。然而，彼时刚到江东不久的司马睿以根基未稳、无力北伐为由，拒绝了诏命。
如今，司马邺已然被俘，司马睿却高调下令筹备北伐，甚至亲自披挂上阵，一副誓要亲征的姿态。
然而，在大军即将出征之际，司马睿却发现粮草供应未能及时到位，一怒之下斩杀了督运令史淳于伯。至此，这场声势浩大的北伐行动戛然而止。三个月后的公元317年三月九日，司马睿自立为晋王，改元建武，东晋王朝正式拉开序幕。
虽然司马睿的北伐计划最终无疾而终，但另有一位志士的北伐行动却持续了整整四年，并成功抵达豫州谯郡境内。此人正是与刘琨齐名、闻鸡起舞的祖逖。
祖逖，字士稚，出身于幽州范阳郡（今河北涿州市），生于公元266年，比刘琨年长五岁。他性格开朗豪放，不拘小节，轻财重义，崇尚侠气。直到十四五岁，祖逖才开始发奋读书，却展现出惊人的学习能力，博览群书，通晓古今。
二十四岁时，司州阳平郡推荐祖逖为孝廉，但他并未接受；随后又被推举为秀才，祖逖依旧婉拒。
后来，祖逖与刘琨同任司州主簿，二人志趣相投，关系亲密，甚至同榻而眠。一天深夜，野外传来鸡鸣声，祖逖将刘琨唤醒，说道：“这并非不祥之音。”于是两人起身练习剑术。
祖逖与刘琨皆怀有英雄气概，谈论天下大事时，常在深夜促膝长谈，并互相立誓：“若天下动荡，群雄并起，我们应重返中原，为国家建功立业。”后来，中原陷入战乱，祖逖带领乡亲南迁至江南，定居京口（今江苏镇江），被琅琊王司马睿任命为军咨祭酒。
313年八月，祖逖已四十八岁。他得知司马睿无意响应长安的司马邺进行北伐后，便向司马睿上书，请求允许自己率军北伐。他在奏书中写道：
晋朝的动乱，并非因为君主无道而致臣民怨叛，而是由于藩王之间争夺权力，相互残杀，这才让戎狄趁虚而入，祸害中原。如今幸存的百姓饱受摧残，人人怀有奋起反抗的志向。如果大王能够振作精神，派遣将领，让我祖逖等人担任统帅，那么各地的豪杰必定会群起响应，那些久困于水深火热之中的百姓也会欢欣鼓舞，盼望解救。如此一来，或许可以洗雪国耻，恳请大王深思熟虑。
然而，司马睿并无北伐的决心，却也无法拒绝祖逖这番义正言辞的请求。于是，他任命祖逖为奋威将军、豫州刺史。
但司马睿的支持仅限于此，他只提供了可供千人食用的粮食和三千匹布，既不提供铠甲武器，士兵也需要祖逖自行招募。
无奈之下，祖逖只能带领当初南渡时跟随他的百余家部曲踏上北伐征程。从京口出发时，他们渡过长江。
当船行至江心，祖逖望着奔腾东去的江水，心中感慨万千，不禁用手敲击着船桨，发下誓言：“我祖逖若不能荡平中原，复兴晋室，就如同这东流的江水，誓不回头！”他的话语铿锵有力，神情慷慨激昂，令在场众人无不敬佩。
祖逖率军渡江后，一路向北挺进。数日之后，他抵达了徐州广陵郡淮阴县（今江苏省淮安市淮阴区）。
在这里，祖逖决定暂时驻扎下来，一边铸造兵器，一边招募士兵。他在淮阴停留了整整三年，成功招募到两千余名士卒，随后继续向豫州方向进发。
公元316年六月，祖逖率领部队抵达芦洲（今安徽省亳州市东涡水北岸），逐渐逼近豫州谯郡。他的目标是将谯郡作为据点，进一步扩展势力范围。
提到谯郡，早在几年前，这里已经成为一批流民的聚集地。这些流民在首领张平和樊雅的带领下，修筑城寨、建立坞堡，形成了一股地方势力。
当时，晋朝丞相司马睿派遣参军桓宣前往谯郡招降。由于桓宣是谯郡本地人，且在当地颇具威望，张平和樊雅得知消息后，纷纷主动表示愿意归附。然而，当祖逖也想占领谯郡，并计划联合张平和樊雅的力量时，他派出了参军殷乂前去游说。
遗憾的是，殷乂对张平和樊雅等人充满了轻视，认为他们不过是一群乌合之众，这种态度最终导致了沟通的失败。
殷乂抵达谯郡后，张平与樊雅得知他是祖逖派遣的使者，便以礼相待。然而，殷乂却表现得极为傲慢无礼。当他看到张平和樊雅居住的房子时，脸上露出轻蔑之色，讥笑道：“这样的房子只配用来养马。”
张平和樊雅虽心生不满，但并未表露出来。随后，殷乂又瞧见院中一口大铁锅，立刻说道：“这口锅适合用来铸造兵器，赶紧拿去打造武器。”
张平和樊雅听后慌忙解释道：“参军莫要小看此锅，它虽看似普通，实则是件古物，堪称宝物，万万不可毁坏。”
殷乂却冷笑一声，回应道：“祖将军一旦到来，你们的性命恐怕都难保，还妄想保住一口铁锅？”
此言一出，张平顿时怒火中烧，拔出佩刀将殷乂当场斩杀。
随后，张平与樊雅下令紧守城池，坚决不向祖逖投降。祖逖闻讯后，派兵攻打谯郡，但历经一年多的时间，始终未能攻克。
后来，祖逖暗中派人联络张平的部将谢浮。谢浮对祖逖十分敬仰，决定归顺他。趁张平放松警惕之际，谢浮将其杀害，并投奔祖逖。
于是，祖逖率军推进至太丘（今河南省永城市西北）。然而，樊雅仍然坚守谯城，继续与祖逖对抗。
祖逖再次发兵攻打谯郡，依旧未能成功。
公元317年六月，祖逖决定再次向桓宣求助。此时，桓宣已担任南中郎将王含的参军。于是，祖逖派遣使者携带书信前往拜见王含。王含接到祖逖的书信后，立即派桓宣率领五百人前往支援祖逖。不久，桓宣抵达太丘。
祖逖得知桓宣到来，十分欣喜，亲自出帐迎接。他对桓宣说道：“参军您的恩威并重，早已赢得流民心悦诚服。张平、樊雅等人只听从您的号令。此次您前来，必定能协助我们说服樊雅。”
桓宣回答道：“这些流民本性并不恶劣，只是因战乱与天灾所迫，为了生存才聚集于此。如果将军强行进攻，他们定会拼死抵抗，难以攻克。如今我无需带兵，只需带上几个人，便能劝说樊雅归降。”
祖逖听后大喜。
随后，桓宣骑马仅带领两名随从前往谯郡城下。守城士兵急忙将消息通报给樊雅。樊雅听说只有桓宣三人到达，并无军队跟随，便下令打开城门迎接。樊雅在府邸设宴款待桓宣。
席间，桓宣诚恳地对樊雅说道：“祖逖将军来到此地，并非为了侵占谯郡或夺取你们的城池。他的志向在于北伐中原，为晋朝铲除匈奴汉国刘聪和羯族襄国石勒的威胁。他一心期望得到你们的支持。之前殷乂态度傲慢，那绝非祖逖的本意。”
樊雅听后，心中的疑虑一扫而空，于是主动出城拜见祖逖，表示愿意诚心归附。
祖逖成功进入谯城后，积极招募士兵、扩充军备，同时加紧制造武器，为北伐做准备。然而，他刚安顿下来没多久，就收到探马的紧急情报：汉赵骠骑大将军石勒派遣其侄子、魏郡太守石虎率领大军南下，攻占了梁国（今河南省开封市），斩杀了当地太守，如今正直逼谯郡。
祖逖深知自己的力量尚不足以与石虎抗衡，于是迅速派遣使者向南中郎将王含求援，并向江东晋王司马睿上书请求支援。
接到消息后，王含立即命令桓宣率兵前去救援祖逖。
与此同时，司马睿也颁布檄文，宣布：“石虎竟敢驱使蛮兵，渡过黄河肆意作恶！现特命琅琊王司马裒等统领九路精锐军队，共计三万勇士，分水陆四路直赴战场，一切行动听从祖逖指挥。”
石虎得知王含派桓宣前来增援祖逖，又听说司马睿已调动九路大军齐心协力支援，心中不禁惶恐不安。他担心自己的部队孤军深入，若不能速战速决，退路可能被切断。因此，他果断下令撤围谯城，带领部队返回邺城。
不久之后，司马睿见敌军已退，便召回琅琊王司马裒及其部队返回建康，以巩固后方防御。至此，一场潜在的大战暂时得以平息。
