在隋末各股反隋势力中，李渊并不是最强大的，但时机拿捏得却是恰到好处。他发兵较晚，避开了中原战事的中心，没有付出什么消耗就攻取了长安，定鼎关中，得到一块根据地，首先将自己立于不败之地。
随后，李渊又果断称帝，建立正统地位，那些与隋军浴血奋战的各路起义军反倒成了一家家“反王”，等着这位天子去挨个收拾。
射箭招婿隋朝末年，天下大乱，不仅农民起义不断，一些军阀官僚眼看着隋朝已是朝不保夕，不甘心与隋炀帝同归于尽，也纷纷起兵脱离隋朝，形成诸多地方割据势力。在这些割据势力中最终脱颖而出的，就是当时镇守太原的李渊。
李渊年轻时倜傥豁达，任性率真，再加上他世袭了唐国公的爵位，因此在不少人的心目中很有威望。
有一次，他听说上柱国窦毅公开招女婿，就兴冲冲地去了。
窦毅的妻子是北周武帝的姐姐襄阳长公主，据说窦毅的女儿窦氏刚出生时就发长过颈，三岁时头发竟与身体一般长，武帝见这个外甥女相貌奇异，就把她留在宫中养育。
北周武帝当时的皇后是突厥人，其时突厥的势力还很强大，武帝不得已与之成婚，婚后始终耿耿于怀。窦氏却暗中劝说舅舅加以忍耐，以消除北方的威胁，全力对付南陈和北齐。
窦毅听说了这件事，认为自己的女儿不是凡人，不能轻易许人，就和妻子商量出了一个选女婿的方法。
他命人在自家的大门上画了一只孔雀，凡是来求婚的必须对着孔雀射两箭。窦毅夫妇俩暗中商定，只有射中孔雀眼睛的人，才能招为女婿。前边来了几十个人，他们不是把箭射到孔雀尾巴上，就是射到别的地方。
李渊来到后，不慌不忙地拉开弓，只听见嗖嗖两声，两支箭正中孔雀的两只眼睛。窦毅十分高兴，便把女儿嫁给了李渊。
献礼免祸窦氏的胆魄和见识确实非常人能及，杨坚取代北周时，宇文泰的直系男性被杀绝，听闻噩耗的窦氏扑在床上，一边哭一边说：“我恨自己不是个男儿，无法帮助舅舅家摆脱危难！”
窦毅听了，吓得赶紧捂住她的嘴：“千万不要胡说！传出去可要灭门呀！”
杨广即位后，有一次看到李渊的脸上有很多皱纹，便戏称他是“阿婆”。李渊听了心里很不痛快，回到家中，脸上也没有笑容。
窦氏问清原因后，马上向丈夫贺喜道：“这是吉兆啊！你的爵位是唐公，‘唐’便是‘堂’，‘阿婆面’就是指‘堂主’啊！”窦氏话中的意思就是李渊将来能做皇帝。
大业年间，李渊出任扶风太守，家中养了好几匹骏马。窦氏对他说：“当今皇上爱鹰爱马，您是知道的。这几匹宝马不应该留在身边，而应献给皇帝。不然，万一有人告诉皇帝，您就会受到牵累。”
李渊听了，半晌无语。他也知道妻子说得有道理，但实在舍不得那几匹宝马，就没有按她的意思做。果然，没过多久他就受到隋炀帝的责难，很长时间也没有得到提拔。
杨广压制李渊还另有原因，那就是隋朝末年民间流传着一些谶语，什么“杨花落，李花开；桃李子，有天下”；“杨家将灭，李家将兴”；“当有李氏，应为天子”等等。
杨广把朝中姓李的高官点来点去，点到了他姐姐杨丽华的女婿李浑头上，不由分说就灭掉他全家，连亲外甥女也没有放过。
接下来，杨广又怀疑到李渊头上，就宣他进京，准备将他杀掉。幸好李渊的二儿子李世民有远见，料定他进京凶多吉少，就让他躲在家里装病。这时候，有人密告隋炀帝，对大隋江山有威胁的人是那个李密。隋炀帝的眼睛又盯在李密身上，李渊这才逃过一劫。
大业八年（612）夏天，窦氏病逝，年仅45岁。
李渊非常悲痛，回想起窦氏当年劝他献马时说过的话，猛然醒悟过来，到处收罗名鹰好狗进献给隋炀帝。这一招果然奏效，隋炀帝很快把他提拔起来。接到皇帝的诏书，李渊一边流泪一边对他的几个儿子说：“如果我早些听从你们母亲的话，这官早就当上了！”
结交豪杰大业十三年（617）初，隋炀帝派李渊到晋阳（今山西太原）担任留守，与马邑（今山西朔县）太守王仁恭一同防御突厥。
晋阳是军事重镇，不仅兵源充足，而且饷粮丰厚，有了这样一个地盘，正好可以发展自己的势力。
一到晋阳，李渊就以少胜多，击败了甄翟儿率领的数万农民起义军，军威大振，当地有名望的官僚、地主、豪绅纷纷前来投靠。
晋阳城中有一对好友，一个是晋阳令刘文静，一个是晋阳宫副监裴寂。有一天晚上，两人同宿，裴寂抬头望见城头上的烽火，不禁感叹道：“我们的地位卑贱，家中又没有积蓄。现在天下大乱，该怎么办呢？”
刘文静笑着说：“世道既然如此，天下大事便可见分晓了。只要我们二人联手，还怕什么身份卑贱吗？”
李渊来晋阳时，将长子李建成留在河东，暗中交结英俊，招兵买马，派李世民在晋阳密招豪杰，倾财赈施，广纳贤才。
刘文静经过认真观察，觉得这个李世民虽然只有18岁，却是个难得一见的人才，就对裴寂说：“唐国公的那个公子可不是常人，大度而神武，很像是汉高祖刘邦、魏太祖曹操一类的人物。这实在是上天的安排呀！”
裴寂听了却不以为然，刘文静就自己去和李世民交往，很快和李世民成了知心朋友。
刘文静跟李密是姻亲，李密投奔瓦岗军后，隋炀帝下令捉拿李密的亲友。刘文静受到株连，被革了职，关进晋阳的监狱里。
李世民得知刘文静被关押，心中焦急，赶往监狱探望。两人交谈时，刘文静感叹道：“如今天下动荡，没有成汤、周武王、汉高祖或光武帝那样的才略之人，恐怕难以平定天下。”
李世民回应：“你怎么知道这样的人不存在呢？只是一般人无法识别罢了。我今天来见你，不仅仅是为了叙旧，还想与你商讨大计，希望你能帮我仔细筹划。”
刘文静听出李世民的言外之意，对他说：“如今皇帝远在江都，李密围困东都，各地纷纷起义，正是夺取天下的好时机。我多年担任地方官，熟悉晋阳一带，可以集结十万人，再加上您父亲麾下的数万精兵，乘虚入关，号令天下，不过半年，就能成就帝王之业。”
李世民大笑说：“这正合我意！”从监狱回来后，李世民便开始秘密筹划，准备起兵。
劝父造反要想起兵，首先得说服父亲李渊，而对于李世民来说，这可是个不小的难题。就在这时候，一股突厥骑兵南下骚扰马邑。
由于突厥兵人数不多，李渊派副留守高君雅率兵前去围剿。哪知高君雅和王仁恭一上阵就打了败仗，几乎送了命。
高君雅逃回晋阳后，生怕承担战败的罪责，就修了一封密书送往江都，把责任都推到李渊身上。
隋炀帝见信后，也不问青红皂白，马上派使臣来到晋阳，把李渊和王仁恭都抓了起来，关进监狱，准备过两天押往江都。
李世民抓住这个机会，来到狱中劝说父亲起兵反隋。哪知李渊一听，吓得要命，说什么也不肯答应。其实，他也不是没有反心，只是觉得起事的时机还不够成熟，恐怕落得当年杨玄感那样的下场。
恰好这时候隋将梁师都起兵占领朔方，自称大丞相，又勾结突厥，被突厥封为“解事天子”。朝廷正是用人之际，隋炀帝只好赦免了李渊，让他官复原职。
李世民计划受阻，又去找刘文静商议。刘文静给他出了个主意，让他通过裴寂这条线做做文章。
隋炀帝在全国各地修筑了好多行宫，晋阳宫就是其中之一，宫女、妃子、太监、宝马、御车一应俱全。正宫监由李渊担任，副宫监裴寂全面负责晋阳宫的日常管理。裴寂和李渊原来就认识，如今一正一副，经常一起喝酒，喝得昏天黑地，关系日益亲密。
通过刘文静的引荐，裴寂和李世民有了交往。裴寂爱财好赌，李世民就投其所好，拿出自己的几百万私房钱，交给龙山令高斌廉，又把裴寂请来，让他俩耍钱。
高斌廉渐渐地把钱都输给了裴寂，就这样每天裴寂都和李世民在一起，感情日益深厚，李世民就把自己的意图透露给裴寂。裴寂知道自己的钱是怎么来的，就许诺帮他劝说李渊。
裴寂曾利用自己的权力，把晋阳宫中的两个宫女私下里送给李渊，李渊也就收下了。这一天，他们俩又聚在一起饮酒，喝到醉眼蒙胧的时候，裴寂忽然提起了这件事：“我私自送宫女侍奉您，这要是传出去，可就是杀头之罪呀！”
李渊大吃一惊，吓得酒醒了一半。裴寂见状又说：“二公子害怕大祸临头，所以才在暗中做好起事的准备。我看应该起兵反隋，也许能成功。”
李渊低头沉思了一会儿，无可奈何地说：“我儿子确有这个图谋。事情已经如此，又能怎样呢？那就听他的吧！”
晋阳起兵在裴寂的多次劝说下，李渊下定决心起兵。他召回了正在河东作战的两个儿子李建成和李元吉，并释放了刘文静。刘文静伪造皇帝的诏书，征召当地20岁至50岁的人参军，要求年底在涿郡集结，准备攻打高丽。
这一行动引发了民众的恐慌，关于造反的议论也越来越多。就在此时，马邑人刘武周起兵，杀死了太守王仁恭，自称天子，并攻占了汾阳宫。李渊顺势提出招募兵马，以讨伐刘武周。
晋阳的两个副留守王威、高君雅都是隋炀帝的心腹，他俩觉得李渊这样做也是为朝廷着想，就同意了。不久，李渊招募到了三万人，交给李世民、长孙顺德、刘弘基等人率领。
到了这个时候，王威和高君雅才发现苗头不对。长孙顺德和刘弘基都是朝廷的罪犯，跑到太原来是为了求得李渊的庇护。
李渊纠集起这么多兵马，又重用这样的人，他想干什么？他俩一商量，想乘李渊到晋祠祈雨的时候，把他刺死。不料消息走漏出去，一个叫刘世龙的乡长向李渊告了密，李渊就借议事之机，把王威和高君雅抓进了监狱。
此时的李渊还不想暴露反隋起兵的意图，给王威和高君雅定的是勾结突厥的罪名。说来也巧，过了几天，突厥人真的来进攻晋阳，这一下所有的人都相信突厥人是王威、高君雅勾结，准备里应外合来的，于是李渊借突厥来犯之事，名正言顺地杀掉了这两个倒霉蛋。
至于突厥人那里，李渊派刘文静带上厚礼，送给始毕可汗，约定共同起兵攻隋，并答应攻入长安后，土地民众归李渊，金玉绢帛归突厥。始毕可汗觉得这样做对自己大有好处，就答应帮助李渊。
免除了突厥的后顾之忧，李渊才正式起兵反隋。他自称大将军，派李建成和李世民分别做左右领军大都督，刘文静做司马，又把兵士都称为“义士”。他们带领三万人马离开晋阳，向长安进军。
一路上继续招募人马，并且学农民起义军的做法，打开官仓发粮给贫民。这样一来，前来应募的百姓越来越多，队伍很快就壮大起来。
霍邑扬威李渊刚起兵时，就收到了李密的来信，想和他结盟共图大计，实际上是想让李渊尊他为盟主。
李渊收到信后，立即给李密回信，对他极力吹捧，还说自己没有取代隋朝之意。李渊这样做的目的是想让李密放松戒备，让他去阻挡中原的隋军西进。
有了李密对付东面的隋军，李渊压力大减，一路势如破竹，直到攻打霍邑（今山西霍县），才遭到隋朝大将宋老生的拦击。霍邑易守难攻，这一带道路狭窄，又赶上连下几天大雨，李渊的队伍粮食快吃光了。
这时候又传来消息说，突厥人联合刘武周打算乘虚袭取晋阳。李渊觉得这场攻坚战难以取胜，就想退军回保晋阳，李世民劝他也没用。李世民不死心，还要进入李渊的营帐劝阻，可是天黑了，李渊已经躺下休息了。
李世民无法进入帐内，只能在帐外痛哭，哭声传入帐中。李渊不明所以，立即召儿子进来询问。
李世民解释道：“我们现在起兵是为了大义，进攻即可取胜，退却则可能溃败。那时，部队在前溃散，敌军在后追击，我们覆灭的日子就到了。想到这些，我怎能不悲伤呢？”
李渊顿悟，赶紧命令撤退的部队返回。
不久，粮草运到，雨也停了，李渊下令部队晾晒铠甲和装备，准备攻城。
为了引诱宋老生出城，李渊派遣李建成和李世民带领一小队骑兵来到城下，他们挥舞马鞭、招展旗帜，做出包围城池的架势，并且大声辱骂宋老生。宋老生被激怒，将手下三万兵分为两队，从东门和南门出击。
一见敌军出城，李渊立即命令殷开山迅速调来后续部队。李渊本想让士兵们先吃饱再战，但李世民提醒：“机不可失！”
于是，李渊和李建成在城东布阵，而李世民则在城南列阵。李渊和李建成刚布好阵型，隋军便冲了过来，使得李渊的阵形稍显松散。
李世民见状，立刻从宋老生的背后迂回，策马冲入敌阵，亲手斩杀了数十敌军，两把刀都砍得卷了刃，溅起的鲜血溅满了他的衣袖。
李渊见自己这一方占了上风，就派人在战场上大喊大叫：“已经抓住宋老生了！”这一喊乱了隋军的军心，纷纷败退，李渊的部下乘势追杀，隋军的尸体铺满了几里长的地方。
宋老生无处可逃，下马跳入壕沟，被刘弘基追上杀死了。
傍晚时分，李渊下令进攻城池。
当时他的军队缺乏云梯等攻城设备，士兵们只能通过近身搏斗才最终攻下霍邑城。在论功行赏时，军中的官员认为招募来的奴隶不应与普通士兵享有同等待遇。
对此，李渊表示：“在战场上，武器可不分身份高低；评判战功，何必讲求等级？应当根据个人的军功来进行奖励。”
随后，李渊在霍邑为许多人授予官职。
有人建议他不要滥授官位，李渊答道：“隋朝的皇帝正是因为吝于奖赏，才失去了民心。我们怎么能效仿他们呢？况且用官位来赢得民心，不是比用武力更好吗？”
巾帼英雄在李渊起兵反抗隋朝之际，长安的隋朝官员开始逮捕李渊的家人，其中包括他的三女儿（建唐后被封为平阳公主）和女婿柴绍。
形势紧迫，柴绍对妻子说：“我必须赶往晋阳，不能带你一同前往。若你留在这里，恐会有危险，该如何是好？”
李氏答道：“你放心去吧，我作为女子容易隐藏，会自行想办法。”
柴绍离开后，李氏迅速返回位于鄠县的家族庄园，乔装成男儿身，自称李公子，将家产变卖以救济灾民，不久便招募了一支数百人的队伍。
随后，平阳公主积极联络各地反隋义军，仅用三个多月便集结了四五支规模不小的起义队伍。其中，胡商何潘仁的队伍最大，拥有数万人。
平阳公主派遣随从马三宝前去游说，何潘仁欣然归顺，成为她麾下。
在此期间，朝廷屡次派兵围剿平阳公主的军队，但均遭惨败，连隋朝名将屈突通也不敌她。义军在她的带领下，连续攻克户县、周至、武功、始平等地，声名远播，队伍迅速壮大至七万多人。
被平阳公主收编的这些义军原本杂乱无章，但经过她的训练，竟成为了一支纪律严明、战无不胜的劲旅。百姓亲切地称她为“李娘子”，并将她的队伍称为“娘子军”。
李渊建唐大业十三年（617年）九月，李渊率领主力部队成功渡过黄河，他的三女儿已经在关中为他夺取了一大片地盘。
同时，李渊的堂弟李神通以及四女婿段纶也各自组建了队伍，与李渊会合。李渊的军队迅速扩展，人数达到了20万。
同年十一月，李渊的大军顺利进入防守空虚的长安城。他仿效汉高祖刘邦，公布了12条约法以安定民心。
为了继续打着安定隋朝的旗号，他拥立代王杨侑为皇帝，称之为恭帝，并遥尊隋炀帝为太上皇。
李渊自任大丞相，晋封为唐王，掌握了军政大权，并将武德殿设为丞相府。第二年五月，隋炀帝被勒死的消息传到长安，李渊觉得时机成熟了，就废掉杨侑，在太极殿登基称帝，国号为唐，改元武德，史称唐高祖。长子李建成被立为皇太子，次子李世民和三子李元吉分别被封为秦王和齐王。
