陈友谅一死张士诚和他的残余势力，再次开始兴风作浪。在二次失利之后，张士诚决定与元兵联合，共同讨伐朱元璋，在其大本营北部，张士诚以山东为大本营，以迅雷不及掩耳之势向朱元璋大本营防守松散的地方发起猛攻，朱元璋先是让徐达向淮东进攻，最终与常遇春联手攻打平江，围困张士诚，而张部拒不降。
徐达决定攻打这座城市，借助云梯，迅速进城，将张士诚的军队全歼。徐达像往常一样，下令兵入城，严格遵守军纪，不许伤及平民，此举深得朱元璋的赞赏。朱元璋的下一个目的，就是为了完成他年少时立下的宏愿，那就是覆灭元朝。此时的元代，已经占领了北方诸省。
徐达统帅将近三十万的军队，率先向山东发起了总攻。百姓听说朱元璋的大军到来，纷纷出来迎接。打赢了北方的战争，朱元璋建立了明朝，而徐达则被加为右丞相，欢欣鼓舞之后，徐达率兵扫荡了沿黄河的山西、陕西一带的军队，元成府最终无法抵抗军队的压迫，只能舍弃大都回到了大草原，九十七年的王朝就此崩溃，这也是朱元璋一直以来的愿望，他的左膀右臂徐达，亲手将元成王的元气彻底摧毁。
在此期间，徐达一直在北疆作战，一边向北扫荡一边清理残党，最终将陕西和岭北两个方向的残余势力尽数扫荡一空。可惜的是，这位集国宝于一身的武将，终究还是要面临最后的宿命，难逃病魔的毒手。徐达在北平工作时，忽然得了一种病，使他无法静心休息，后来徐达的身体越来越差，直到翌年他才返回南京，陪伴朱元璋，直到生命的尽头。
不过关于徐达的死因，在史书上却是众说纷纭，有的人说是因为朱元璋怕徐达在北边势力太大，一听到徐达生了病，就立刻把他召了回来，还在春末的时候，给了徐达一只烧鹅，因为徐达身体的原因不能吃肉，据闻徐达得了“赏赐”之后痛哭流涕，将那只烤鸭吃得干干净净，到了半夜病情就越来越严重。
