在隋末农民起义的打击下，隋王朝的统治已名存实亡。一些贵族豪强、地方官吏趁机起兵，割州据郡，称公称王，企图利用农民战争战果，取隋而代之。在这种形势下，早有代隋之意的太原留守李渊及其子李世民亦起兵。大业十三年（617年）五月，李渊在太原宣告起兵。七月，以四子李元吉为镇北将军、太原太守，留守晋阳宫，负责太原事宜，自统甲士三万于晋阳誓师出发，并发布檄文，告谕尊立隋代王杨侑之意。尔后沿汾水南下，经雀鼠谷（今山西介休西南、霍县以北汾河河谷），进屯贾胡堡（在今山西灵石西南）。代王杨侑派虎牙郎将宋老生率精兵二万驻守霍邑（今山西霍县），另派屈突通率骁果数万驻守河东，与宋老生遥相呼应，以拒李渊。八月，李渊计诱宋老生出城，两路夹击，大败隋军，占领霍邑，打开了进军关中通道。李渊军攻取霍邑后，沿汾水南下，占临汾，克绛郡（治正平，今山西新绛），于十五日进至龙门（今山西河津西北）。屈突通率军数万屯守河东（郡治河东，今山西永济西南），准备阻止李渊军入关。时李渊军司马刘文静引突厥大将康鞘利率兵匹赶到，使李渊兵力大增。十八日，李渊率诸军包围河东。但河东城高险峻，加上屈突通又善于守城，使李渊军难以很快攻下。李渊只好留一部兵力继续围城，亲率主力于十二日渡河西进，威逼关中。
