乾封元年（666年），高句丽权臣渊盖苏文病逝，其子泉男生接任他的职位，继续执掌高句丽国事。渊盖苏文的其他儿子为争夺权位与泉男生争斗，泉男生转而恳求唐朝发兵相助。同年十二月，李勣被任命为辽东道行军大总管兼安抚大使，以司列少常伯郝处俊副大总管，以泉男生为向导，出兵高句丽。次年九月，李勣认为新城为高句丽西部要塞，攻下新城会便于攻打其他城市，遂率兵直下新城，并派将领契苾何力驻守，又领兵出击，接连攻下十六座城池。 此后，唐军兵分两路，一路由将领契苾何力、薛仁贵、庞同善、高侃等率领，留在辽东继续攻打其它城池；一路由李勣亲率，直向重镇乌骨城（今辽宁凤城边门镇），与驻守在此的泉男生部会合。随后，高侃进兵至金山（今辽宁省昌图县境内），薛仁贵在扶余（今吉林农安县）大败高句丽兵，斩首五万余级，且攻下了（今辽宁抚顺东苏子河与浑河交流处）、木底（今辽宁新宾西木奇镇）、苍岩（今吉林集安西境）三城。前去增援的高句丽军在大行城（今辽宁丹东西南娘娘城一带）遭到李勣阻击，被斩杀、被俘三万多人，大行城也落入唐军控制。此后，薛仁贵等率军向李勣部靠拢。 李勣又令郭待封率领部分水军，攻向平壤城，自己则率陆军渡鸭绿江，也向平壤进发。然而，由于高句丽从元万顷《檄高丽文》中“不知守鸭绿之险”一句受到启发，派重兵把守鸭绿江，唐军受到阻击，历时几日才攻下鸭绿江边的辱夷城（今朝鲜永柔）。此后，大军直下成为孤城的平壤。总章元年（668年），李勣指挥唐军攻下平壤（今属朝鲜），俘虏高句丽国王高藏，灭亡了高句丽；共夺取一百七十六座城池，之后被唐廷划分为九府、四十二州、一百县，设为安东都护府。在同年举行的献俘仪式上，李勣担任亚献。
