武德元年（618）五月李渊称帝，六月薛举入侵泾州（今甘肃泾川北），进逼高椠（今陕西长武县北），游兵掠岐州（治今陕西凤翔）、豳州（治今甘肃宁县）。唐以秦王李世民为元帅，与长史刘文静、司马殷开山等率八总管兵以拒之，七月双方对垒于高上。时唐拥有关中、巴蜀和山西的广大地区，掌握着储备丰盛的长安府库和永丰粮仓，赤岸泽（在今陕西大荔县西南）牧监又供给了不少战马，关中、河东一带又是隋代府兵集中的地方。所以唐军在人力、物力、财力上都远超秦军。而且李渊进入长安后，与民约法十二条，尽除隋朝苛禁，唐统治区阶级矛盾初步得到缓和，唐军有比较巩固的后方。秦军的情况是：薛举父子据有的陇右地区是隋的牧监所在，又是隋防御突厥和吐谷浑的要地，民习战备，人务骑射，故秦军多精骑骁将，薛举父子即颇能征善战，因而秦军军锋锐盛。但陇右一带，民户寡少，经济落后，天水、陇西、金城等郡，隋盛时合计户数亦不过七万。新占地区，虽户口稍多，但地处前线，尚难严加控制。所以秦军人力、物力、财力皆感不足，难于持久作战。李世民知薛举军粮不足，意在速战，故下令军中“深沟坚壁，以老其师”④。时世民患疾卧病军营，委军事于刘文静与殷开山，并告诫他们：“薛举悬军深入，食少兵疲，若来挑战，慎勿应也。俟吾疾愈，为君等破之。”⑤刘文静、殷开山恐不出战为敌人所轻，竟陈兵于高坡西南，恃众轻敌而不设备。薛举以精锐轻骑从背后包抄掩袭，战于浅水原，唐军八总管皆败，士卒死者十之五六，大将军慕容罗元、李安远、刘弘基等被俘，薛举攻下高坡城，积唐尸封土其上，谓之京观。李世民引兵回长安，京师骚动，刘文静、殷开山皆被除名。
武德元年八月，薛举乘唐军新败，将帅并擒，京师骚动，拟进军直取长安。大军出发前，薛举突然病死。薛仁杲继位为秦帝后居于折坡城（今甘肃泾川东北）。唐再以秦王世民为元帅，出击薛仁杲。九月，唐军进临高坡，薛仁杲使宗罗元屡次挑战，李世民深沟高垒，坚壁不出。诸将请战，他说：“我士卒新败，锐气犹少；贼以胜自骄，必轻敌好斗，故且闭壁以折之。待其气衰而后奋击，可一战而破，此万全策也。”乃下令军中：“敢言战者斩。”⑥双方相持六十余日，十一月，薛仁杲粮尽，部将梁胡郎等率部投降。李世民知秦军已将士离心，令行军总管梁实率部扎营浅水原诱敌。秦将宗罗元，一直求战不得，见唐军出浅水原，大喜，全力进攻。梁实守险不出，人马断水数日，仍顽强抵抗。宗罗元急攻不下，士卒疲乏。李世民捕捉战机，复令右武侯大将军庞玉结阵于浅水原南，威胁敌阵右翼。宗罗元并军酣战，庞玉几不能支，李世民亲率大军突然出现于浅水原北，出其不意，宗罗元忙引兵迎战，但阵势已乱。李世民率骁骑数十冲入敌阵，唐军表里奋击，呼声动地，秦军大溃，斩首数千级。李世民率轻骑二千，驰追溃敌，有人说薛仁杲犹据坚城，不可轻进，他说破竹之势，绝不可失，否则溃兵入折坡城，薛仁杲抚而用之，就难于攻克了。遂追抵折坡城下。日暮，唐大军继至，四面合围。夜半守城秦军纷纷下城降唐。薛仁杲计穷出降。唐军俘获精兵万余人，男女五万口。李世民凯旋长安，薛仁杲被斩于市。是役为唐统一战争中第一个大战役。历时近一年，它的胜利，解除了唐王朝来自西北的威胁，消灭了争夺关中的对手。
败逐刘武周大业十三年（617）二月，马邑（今山西朔县）鹰扬府校尉刘武周，杀太守王仁恭，开仓赈济饥民，驰檄降服境内属城，收兵得万余人，武周自称太守，遣使附于突厥。三月，袭破楼娄烦郡（治今山西静乐）占据汾阳宫，以隋宫人贿突厥始毕可汗。始毕可汗报以战马，兵势益振，又攻陷定襄（治今内：蒙古和林格尔西北）。突厥立刘武周为定杨可汗⑦，赐以粮头纛（dào道，又读dú毒，古军队大旗）⑧。刘武周即皇帝位，改元天兴。继而围克雁门（今山西代县）。宋金刚原为易州（今河北易县）农民军首领，有众万余，与魏刀儿相结。武德元年（618）窦建德打败魏刀儿，宋金刚率部救援，战败，率众四千投奔刘武周。得武周重用，委以军务，并纳武周之妹为妻，宋金刚建议刘武周“入图晋阳，南向以争天下”⑨。武德二年（619）四月，刘武周引突厥兵南下，兵锋甚盛，占领榆次（今属山西），包围并州（治所晋阳，隋改太原、今山西太原西南）为齐王李元吉击退。五月刘武周攻陷平遥（今属山西），六月，宋金刚率兵二万攻并州、刘武周攻陷介州（隋末以平遥、介休置介休郡，武德元年改介州，治介休，今属山西）。唐遣左武卫大将军姜宝谊、行军总管李仲文击刘武同，中伏兵，大败于雀鼠谷（在介休西南），姜宝谊、李仲文皆被俘，既而逃归。九月右仆射裴寂率兵攻宋金刚，大败于介休东南度索原，唐兵失亡略尽，裴寂逃回晋州（今山西临汾）。刘武周进逼并州，留镇太原的齐王李元吉身为并州总管，连夜携妻妾逃回长安，太原失守。李渊惊呼：“晋阳强兵数万，食支十年，兴王之基，一旦弃之。”⑩宋金刚又拔晋州，陷龙门（今山西河津），逼绛州（今山西新绛），十月打下浍州（今山西翼城），军势锐盛，关中大震。裴寂无将帅之才，唯知驱赶民众入城堡焚去积蓄，民众惊扰，夏县（今属山西）民吕崇茂聚众响应刘武周。河东大部城镇，均落刘武周之手，唐仅保有晋西南一隅之地，李渊忙颁手敕：“贼势如此，难与争锋，宜弃河东之地，谨守关西而已。”李世民上表说：“太原王业所基，国之根本，河东殷实，京邑所资。若举而弃之，臣窃愤恨。愿假精兵三万，必能平殄武周，克复汾晋。”于是发关中丢增益世民所部，使击刘武周，李渊亲自为之送行。
武德二年（619）十一月，李世民率军自龙门乘坚冰东渡安河，进驻柏壁（今山西新绛西南）、与屯驻浍州的宋金刚军主力对垒相持。时河东州县，为宋金刚掳掠一空，民情慌乱，无从征敛，军粮不足。世民一反裴寂所为，晓喻民众，安抚人心，号召复业，民众莫不归附，然后收其余粮，以充军食。
当时形势是刘武周军起于代北边防要地，“人性劲悍、习于戎马”，战斗力强，又乘战胜余威，士气旺盛。加之得突厥支持，军锋锐盛。晋阳府库充实，刘武周占据晋阳掌握着充足的仓粮库绢。但刘武周、宋金刚勾结突厥，难得人民拥护，深入河东，就地筹粮异常困难，大部军粮皆远自晋阳输运，山重峰险粮道极不安全。唐军在屡败之余，士气低沉。但唐王朝除拥有关中、巴蜀，又得陇右、河西，后方更为巩固。人力、物力、财力优于刘武周，而柏壁距关中不过百里之遥，粮运极其安全，特别是李渊晋阳起兵后，在河东比较注意军纪，此番交战在河东就地征粮比较容易。
十二月唐将李孝基、于筠、独孤怀恩和唐俭攻夏县，宋金刚遣尉迟敬德合吕崇茂大破唐军，李孝基等四将俱没。尉迟敬德将还浍州，李世民遣殷开山、秦叔宝邀击于美良川（在今山西夏县北），大破之斩首二千余。尉迟敬德复引骑兵援据守蒲坂（今山西永济北）的旧隋将王行本，李世民自将步骑三千夜趋安邑（今属山西），敬德仅以身免，世民复归柏壁。诸将皆请同宋金刚决战，世民说：“金刚悬军千里，深人吾地，精兵骁将，皆在于此。刘武周自据太原，专倚金刚以为捍蔽。金刚强众，内实空虚，虏掠为资，意在速战。我坚营蓄锐，以挫其锋；分兵汾、隰，冲其心腹；彼粮尽计穷，自当遁走。当待此机，未宜速战。”坚持“坚壁挫锐”之计。
所谓汾、隰，“汾”即汾州、浩州，隋之西河郡，治所在隰城（今山西汾阳）；“隰”即隰州，治今山西隰县。刘武周大军南下后，晋州以北城镇只浩州仍在唐军之手，而浩州控晋阳至晋西南交通要冲，对刘武周军运粮线威胁极大。李世民遣刘弘基、张纶进逼西河，牵制进攻浩州的敌军。武德三年（620）三月，刘武周攻浩州，被李仲文击败，俘斩数千；张纶又败刘武周于浩州，俘斩千余人。宋金刚部深人晋西南，僵持五月余，始终不得与唐军主力决战，士气逐渐下落。浩州唐军又渡过汾水，消灭刘武周的护运部队，占领平遥，介休之间的张难堡（今张兰镇），汾水东侧的运粮线又被切断。四月宋金刚被迫北撤。
李世民见敌军北撤，战机已至，立即率军尾追不舍。至吕州（即霍邑今山西霍县），大破敌军寻相部，乘胜逐北，一昼夜行军二百余里，战斗数十回合。至高壁岭，士卒饥疲，都将谏请驻兵以待军粮与后继部队，然后继进。李世民说：“功难成而易败，机难得而易失，必乘此势取之。”豫策马而进，将士虽一昼夜未得进食，但亦不复言饥，继续前进。至雀鼠谷，追及宋金刚，“一日八战，皆破之，俘斩数万人。夜，宿于雀鼠谷西原，世民不食二日，不解甲三日矣，军中只有一羊，世民与将士分而食之”。继引兵追至介休，宋金刚尚有兵两万，在城西布阵，南北亘七里，欲背城决死一战。李世民命李世勣、程咬金、秦叔宝攻其北翼，翟长孙、秦武通攻其南翼。两翼唐军出战不利，李世民自率精骑三千冲其阵后，大败宋金刚，斩首三千余，追之数十里，至张难堡，与浩州唐守军会师。尉迟敬德以介休降唐，李世民大喜，重用之为杏一府统军。刘武周闻宋金刚全军溃败，大惧，弃并州率五百骑北奔突厥，宋金刚收其余众拟再战，但已众莫肯从，指挥失灵，亦率百余骑进入突厥。李世民入晋阳，刘武周所占唐河东州县，全部收复，并进据代北一带。时“河东士庶歌舞于道，军人相与为《秦王破陴乐》之风”，以颂扬秦王功业，后此曲编入唐乐府。时李世民年仅二十四。刘武周之翦灭，为唐挺进中原统一全国，解除了后顾之忧，为统一战争中之重大事件。未几刘武周、宋金刚分别欲逃回其起兵处马邑与上谷，皆为突厥所杀。
迫降王世充王世充原为隋江都郡丞，因镇压起义有功，顿得炀帝宠任，升为江都通守。大业十三年（617），受命率江淮劲旅与各路兵马同赴东都，共讨李密。炀帝诏诸将皆受涿郡留守薛世雄节度。九月诸军会于东都，薛世雄已为窦建德击溃，炀帝诏诸军皆受世充节度。东都守军屡遭瓦岗军重创，不敢复出。大业十四年亦唐武德元年（618）五月，炀帝凶讯至东都，留守官奉越王杨侗即皇帝位，改元皇秦。以段达、王世充为纳言，元文都、卢楚为内史令与皇甫无逸等七人，共掌朝政，时人号为“七贵”。王世充受封为郑国公。宇文化及拥兵北上，六月，李密向东都乞降，皇秦帝令李密先平化及，然后入朝辅政。王世充不满以朝廷官爵与李密，由是与元文都、卢楚有隙，七月李密大败宇文化及，东都皆喜，独王世充激其部下反对李密，元文都与卢楚等谋诛之。王世充勒兵攻人宫城，杀元文都、卢楚等，被任命为左仆射、总督内外诸军事，掌掺尔都政权。李密将入朝，闻元文都等已死，乃止。九月，王世充乘李密与宇文化及大战后劲卒良马多死，出兵击败李密，得李密将卒十余万。皇秦帝以世充为太尉、尚书令、总督内外诸军事。世充专总朝政，事无大小，皆入太尉府，台省监署，莫不寂然。武德二年（619）三月，又受命为相国，假黄钺、总百揆，进爵郑王，加九锡。四月王世充逼皇秦帝禅位于郑，入宫即皇帝位，国号郑，改元开明。
李密降唐后，唐以淮南王李神通为山东道安抚大使，率部出关招抚李密旧部。时徐世勋据李密旧境，在魏征劝说下应命归唐，开仓运粮供李神通军。唐以徐世勋为黎州总管，赐姓李氏。唐在关东声势渐震。武德二年（619）十月窦建德攻克黎阳，俘李神通、魏征，徐世勋亦降。王世充乘机夺取了唐在河南的一部份土地。唐军主力正与刘武周决战，无力东援，关东之地全部丧失。
武德三年（620）五月，李世民平刘武周后回到长安。七月，李渊命李世民统诸军东击王世充。时黄河流域形成唐、郑（王世充）、夏（窦建德）三方鼎峙之局面。唐欲统一全国，必先统一北方，郑、夏是其必须解决的两大势力。王世充据守坚城，洛阳防卫严密，一时难以攻破。但他原为炀帝亲信，镇压农民起义起家，郑政权直接继承隋政权，因而其统治集团不得人心，得不到人民的支持，郑政权统治内部，矛盾颇深，一部分关陇军事贵族一直倾向于唐。投降过来的李密旧将，如秦叔宝、程知节、罗士信等先后降唐。郑政权控制的州县亦不巩固，一旦看到唐朝占有优势，大部会倒向唐方。王世充的主力由江淮排手组成，善于防守，不善于进攻，而东郡距新安（今属河南）前线，不过百里之遥，全部暴露在唐军面前。唐朝方面在消灭薛仁杲和刘武周之后，关中更加巩固，后方地区扩大，后顾无忧，可大力翦除关东群雄，军事上完全转入主动的局面。武德三年（620）七月，又在关中进行了一项重要改革：“初置十二军，分关内诸府以隶焉。每军将副各一人，取威名素重者为之，督以耕战之务。”把军事和生产结合起来，有利于前方兵员的补充和粮秣的供应。而唐在屡胜之后，士气较高。唐、郑相较，唐军居于优势地位。