辽朝前期采取了因地制宜、因俗而治的民族政策，对渤海遗裔、女真族为首的少数民族，采取了较为温和的统治方式，这在当时缓解了各民族的抵触情绪，尤其是辽的统治者注重安抚渤海遗裔，重奖效忠于辽的渤海人，在一定程度上削弱了渤海旧国的反辽势力。同时，又加强与女真族的通商，轻徭薄赋，这对于女真族聚居的吉林地区的经济增长起到了很大的作用。但是随着东丹国南迁，辽朝渐渐转变了一度和缓的民族政策，开始加强了对渤海、女真等民族的压迫，导致各民族生活苦不堪言，各地起义不断，最终葬送了辽朝长达两百余年的统治。
完颜阿骨打画像
在辽圣宗统治时期，生女真中完颜部落发展起来。生活在长白山地区的生女真虽然长期处在渔猎经济阶段，但是恶劣环境中的射猎生活，养成了他们"勇悍不怕死""耐饥渴苦辛"的性格。同时由于经常进行集体围猎，又使他们具有了组织力和团结力，形成了一套独特的"壮者皆兵"的武装组织形式。
天庆四年（1114年），完颜阿骨打袭江封生女真部族节度使。阿骨打自幼"好弓矢"，十几岁时，射群鸟，连三发皆中。由于他聪明好学，才能出众，不仅作战勇敢，在政治上也很有见识。23岁时就已成为出色的青年统帅。辽天庆二年春，天祚帝在春捺钵设鱼头宴时，要求完颜阿骨打为其歌舞助兴，阿骨打觉得这是天祚帝有意戏弄，遂断然拒绝，在座者再三劝说，阿骨打就是不从，大失天祚帝的尊严，最后搞得宴会不欢而散。过后天祚帝密谓萧奉先说："在鱼头宴上，阿骨打意气雄豪，顾视不常，可托边事诛之。否则，必遗后患。"萧奉先回答说："粗人不知礼义，无大过而杀之，恐伤向化之心。即使他有异志，一个蕞尔小邦，又何能为?"天祚帝觉得萧奉先说得有道理，也就没把这事放在心里。
阿骨打在鱼头宴上觉得受辱之后，心中愤愤不平地回到完颜部，从此与辽之间结下了仇怨。阿骨打回到自己领地后，加快修筑今扶余县境内松花江沿岸的城堡，备抗辽之用。就在此时，阿骨打部出现了叛徒阿疏，阿疏逃往辽并向辽帝汇报了阿骨打早已有反辽之心，此事引起辽帝警戒之心，遂派人前往阿骨打处追问修筑城堡的用意。阿骨打因辽朝收留叛徒阿疏，一直索要无果，便怀恨在心，对辽使者说道："若以阿疏与我，诸事朝贡。苟不获已，岂能束手受制也。"公然挑战辽朝权威，引得辽帝震怒，征调派遣军队准备攻打阿骨打。阿骨打也积极筹备对辽的战争，召集女真诸部精兵2500人赶往宁江州（今吉林省松原地区），决定举兵反辽。
大金得胜陀颂碑
辽天庆四年（1114年）九月，阿骨打率众将会合于来流水南岸(今吉林省扶余县徐家店乡石碑崴子），在这里举行反辽誓师大会。阿骨打站在一处高岗上，先控诉辽朝统治者的罪状，接着命诸将传梃而誓，道："汝等同心尽力，有功者，奴婢部曲为良，庶人官之，先有官者叙进，轻重视功。苟违誓言，身死梃下，家属无赦。"这就是历史上有名的"来流水誓师"。71年后的1185年，金世宗命人在誓师之地树立《大金得胜陀颂碑》，纪念阿骨打为开创金朝基业所建立的丰功伟绩。
阿骨打誓师后，便率军向辽朝控制女真人的军事重地宁江州挺进。战争刚开始的一段时间主要是在吉林省境内进行的，辽帝派海州刺史高仙寿率领三千精兵前去消灭阿骨打的军队，虽然辽朝兵力略胜阿骨打军，但是高仙寿的军队中多是渤海遗裔，无心助辽，而阿骨打的军队皆为女真人，士气高涨，宁江州一战大败辽军。宁江州大捷极大地鼓舞了女真军队的斗志，也给辽朝带来重大的打击。面对此种形势，阿骨打乘胜追击，攻克了宾州（今吉林省农安地区）、祥州（今吉林省农安地区）等地，在军事上形成对黄龙府的包围。
辽天庆五年（1115年）正月，阿骨打称帝建国。阿骨打称帝后立即调兵遣将，于金收国元年（1115年）发起了攻打黄龙府的战争。在进兵之前，阿骨打对黄龙府的守备和周围形势作了认真分析，决定采取避实就虚的战术，首先攻打黄龙府周围的城寨，以绝其外援，然后集中兵力攻打孤立无援的黄龙府。
阿骨打先率军攻打黄龙府西北部的达鲁古城（今吉林省松原地区）。攻城前，阿骨打见江军阵地若连云灌木之状，认为："辽兵心贰而情怯，虽多不足畏。"遂命军队占领高地，分左、中、右列阵，阿骨打身先士卒，鼓舞士气，金军表现英勇，最终全歼辽军，攻占了打鲁古城。同年8月女真军队先后攻占了黄龙府西北和东南部的各处城寨后，向黄龙府进军。于9月占领了黄龙府。金军占领了辽军事重镇，辽天祚帝十分恐慌，遂于11月御驾亲征，誓与金军决一胜负。占领黄龙府的阿骨打大军士气正盛，再加上阿骨打本人卓越的军事指挥才能，正确的战略部署，最后天祚帝率领的辽军不敌金军，被杀得丢盔弃甲，退守长春州，自此之后，辽朝再也组织不起有效的抵抗了。
取得节节胜利的金军挥师南下，于1116年攻打东京道地区，之后又连克沈州和东京城，擒获"大渤海皇帝"高永昌。自此，大金国控制了整个辽东地区，集中精力准备攻打辽上京和中京。天辅元年（1117年），金军趁上京道长春州和泰州兵力较弱，遂迅速发动战争，一举攻下二城，此时的辽在今吉林省境内乃至整个东北地区的所有行政机构已尽归大金国，辽的势力遭到严重打击，不久就灭亡了。
