以李渊为首的李氏王朝建立后，面对的是全国群雄并立、四分五裂的状态。李渊带领其子女，开始了全国范围的征战，最终消灭各路豪强，完成了统一大业。在消灭这些异己力量的战争中，次子李世民立下了汗马功劳。
为了巩固关中的稳定局面，李渊首先迫使河东（今山西永济）的隋朝大将屈突通投降，然后于武德元年（618年）十一月指向金城（今甘肃兰州）的薛举、薛仁杲父子。薛举是富豪，雄于边朔。大业十三年（617年）四月，薛举自称西秦霸王，不久称帝，年号秦兴。封儿子仁杲为齐公，据陇西全境，拥兵13万，成为西北地区的一股大势力。薛举起兵反隋，意在夺取关中。李渊比薛举父子先行攻占长安，薛举父子便以10万兵力进逼关中，对李渊构成严重威胁，后被李世民击败。李渊称帝时，薛举率精骑攻扰，关中大乱。李渊又命李世民为帅，再次率军讨伐，大破薛仁杲军队，使其被迫投降，陇西并入唐境。
与此同时，凉王李轨自称天子，年号安乐，由安修仁掌握枢密，据张掖（今属甘肃）、敦煌（今属甘肃）等河西五郡之地。李渊密遣安修仁兄安兴贵入凉，当上了左右卫大将军。武德二年（619年）四月，安兴贵与弟安修仁擒李轨，倾覆了李轨的政权，凉亡，河西五郡并入唐境，巩固了关中根据地。李渊以皇帝的身份传谕郡县，发布政令，依靠政治手段招纳了很多地方的隋朝官员归附。
刘武周是李渊的劲敌之一。刘武周原是马邑鹰扬府校尉。大业十三年（617年），聚兵万余人，自称太守，依附突厥，攻占楼烦、雁门、定襄（今内蒙古清水河县境）等郡，受封为定杨可汗，不久自称皇帝，年号天兴。武德二年（619年）四月，刘武周勾结突厥兵马，南侵并州，进逼太原，并攻陷李元吉留守的太原，李元吉逃归长安，关中震骇。李渊后命李世民率兵进击刘武周。唐军渡河后，休兵秣马，坚壁不战，待敌军粮草不继，气势衰落，唐军一鼓作气，速战速决，刘武周全军溃败，部将尉迟敬德投降。刘武周率残部北遁突厥，后被突厥杀死，并州归入唐的版图。这样，不仅稳固了太原和河东地区，也解除了关中左右两翼的威胁，使唐朝中心地区更加稳固。
关中形势稳定后，李渊又集中力量夺取中原。
武德四年（621年），李渊派李孝恭、李靖至夔州（今四川奉节），进攻占据长江中游地区的萧铣。萧铣于武德元年（618年）在巴陵（今湖南岳阳）称帝，不久迁都江陵（今湖北省偏南，长江沿岸），出兵攻夺唐巴、蜀地，拥兵40万。萧铣被李孝恭、李靖大军围困在江陵，外无援兵，只好投降唐朝，长江中下游地区也被纳入唐境。
李渊兼并了割地称雄的一些隋朝贵族后，又把矛头指向在灭亡隋朝中起了重要作用的农民起义军。李密领导的瓦岗军是当时最强大的一支农民军队伍，曾在中原地区消灭了大部分隋军，割断了江都与洛阳的联系，迫使隋炀帝陷入了孤立无援的境地。
公元617年7月，李渊父子誓师于野，准备进占关中。当时，除了正面的隋军外，李渊还面临左侧东路洛阳附近李密的几十万瓦岗大军的威胁。为了避免腹背受敌、两面作战的被动局面，李渊在进军途中多次致书李密，要求联合。
本来，李密的政治目的，也是入关，夺取全国最高统治权，但由于瓦岗军兵力集中在洛阳附近与隋军作战，所以无暇顾及入关之事。现在眼看李渊要捷足先登，李密很不甘心，他给李渊回信，自称为盟主，要求李渊亲自带兵，来河内郡面结盟约。
李渊接到信后，毫不犹豫地决定承认李密为盟主，先稳住李密，借他的力量牵制住洛阳的隋军，让他们不得西顾，李密在洛阳也无法脱身，这有利于晋阳义师集中全力，抢先占据关中。所以，表面上李渊故意低声下气，使李密自觉骄傲。在给李密的回信中，李渊一方面大肆吹捧李密，尊他为天下的救世主；另一方面称自己年老体衰，将来如能封王于唐，也就很满足了。同时李渊又以安辑汾晋地区为借口，隐蔽自己抢先进入关中的真正意图，并婉言拒绝去河内郡会盟。
李密收到李渊的信后，洋洋自得，从此对李渊进兵关中之事不闻不问，只专门对付隋军，李渊父子则长驱直入关中。结果李密在与隋军的战争中一败涂地，只好投奔李渊。
武德元年（618年）十月，李渊热情地将前来长安投靠的李密迎进，常以兄弟相称，并且将表妹嫁给他。哪知李密降唐以后感觉李渊封给自己的官太小，他非常失望，从而产生了去河南寻找旧部，重新发兵起事的念头。李渊得知以后便想将他请入朝中问个清楚，李密自知事情不妙，本想强闹出城，但最终被唐廷军队围歼。
占据江淮地区的杜伏威于大业十三年进据历阳（今安徽和县），自称总管，进用“士人”。武德元年（618年）移居丹阳（今江苏南京），上表隋越王杨侗，被任为东南道大总管，封楚王。唐军围攻丹阳，使人招降杜伏威，杜伏威降唐，被封为吴王，任江、淮以南安抚大使。刘黑闼兵败被杀后，杜伏威使部将辅公柘留守丹阳，自请入朝，被留在长安。武德六年（623年）秋，辅公柘率领江淮义军在丹阳反唐，自称宋帝，唐借故杀掉杜伏威。李渊又派大将军李孝恭、李靖、李世勋等分路进攻，武德七年（624年），辅公柘率军自丹阳出走，被地主武装捕获，送唐营处斩，江南、淮南从此也成为唐朝的辖区。
李渊以巩固关中为荡平群雄的战略出发点，紧接着平定了河陇与河东，稳固了李唐帝国的根基，继而进兵中原和长江中下游及周边地区，到武德七年（624年），只有朔方的梁师都继续与唐为敌，其余各地基本实现了统一。梁师都于隋大业十三年（617年）在朔方起兵反隋，攻占雕阳、弘化、延安等郡，自称皇帝，国号梁，年号永隆，依附突厥贵族，受封为“解事天子”。贞观二年（628年），唐军最终消灭了梁师都。至此，李氏家族真正完成了全国的统一。
值得一提的是，在李渊的征战生涯中，除了他的儿子们，还有一位能干的女儿平阳公主，她的表现极为出色。平阳公主是李渊的第三个女儿，窦氏的爱女、李世民最亲近的妹妹。她是一位真正的巾帼英雄，才识胆略丝毫不逊色于她的兄弟们。平阳公主16岁时，李渊将她嫁给了柴绍，定居长安。李渊在遥远的山西边境驻守，远离都城长安和东都洛阳，只有李世民与他相随。
大业十三年（617年），李渊起兵反隋约柴绍到太原密谈。柴绍与平阳公主商量，考虑到如若二人一起离去，担心事情被发现。平阳公主不愧是李氏后代，巾帼英雄，她让柴绍一人离开而自己立刻动身回到鄂县（今陕西户县）的李氏庄园，变卖家产，招引山中亡命之徒数百人，起兵响应李渊。她又派家丁说服附近的“盗贼”何潘仁、李仲文、向善志、丘师利等归顺于已。这支义军，军纪严明，势如破竹，连续攻占了户县、周至、武功、始平等地。平阳公主令出必行，整支军队对她肃然起敬，时称“娘子军”，并得到了百姓的广泛拥护，很多人投奔而来。平阳公主在军事上很有见地，她不但为李渊在关中打下了一大片地盘，而且当李世民转战渭北时，平阳公主的娘子军积极进行配合应战，使得李世民连克强敌。李渊进入关中后，派当时在李世民手下带兵的柴绍前去迎接平阳公主，夫妻会师渭河北岸，与李世民共同攻打长安。李渊登基后，逢年过节给这位军功赫赫的公主的赏赐都数倍于其他女儿。
在征战群雄的过程中，高祖李渊时刻不忘对儿子们的教育。他告诉儿子们不要只知吃喝享受，要懂得只有历经苦难，才可以成就帝王大业的深刻道理。李渊以“拨乱之主”基本完成了统一大业，成为李唐王朝的奠基者。唐朝的统一，是自秦汉以后中国历史上又一次真正的大一统。