河北平定后，唐高祖任命陈君宾为洺州刺史。将军秦武通等人领兵驻扎在洺州，准备让他们分别镇守东方各州；又任命郑善果等人为慰抚大使，在洺州选拔补充山东各州县的官员。
窦建德战败后，他的很多将领偷偷藏匿了府库的财物，到了民间后，横行霸道，成为百姓的祸害。唐朝官吏依法惩治他们，有的还加以鞭打，窦建德的旧部都感到恐惧不安。高雅贤、王小胡的家在洺州，想带着家人逃跑，被官吏追捕，高雅贤等人逃到了贝州。恰逢朝廷征召窦建德的旧将范愿、董康买、曹湛以及高雅贤等人，于是范愿等人商议说：“王世充献出洛阳投降唐朝，他的将相大臣段达、单雄信等人都被诛杀；我们到了长安，肯定也活不了。我们自从隋末以来，身经百战，早就该死了，如今何必吝惜这剩下的性命，不趁机做点大事呢？而且夏王（窦建德）捉住淮安王后，以宾客之礼相待，而唐朝捉住夏王后就杀了他。我们都受到夏王的厚待，如今不为他报仇，还有脸见天下的人吗！”于是谋划反叛，占卜时，发现拥立姓刘的人为主吉利，就一起前往漳南，拜见窦建德的旧将刘雅，把谋反的计划告诉了他。刘雅说：“天下刚安定下来，我打算以耕田养蚕度过晚年，不想再起兵了！”众人发怒，又担心他泄露计划，就杀了刘雅。前汉东公刘黑闼，当时隐居在漳南，众将前往拜见他，把计划告诉了他，刘黑闼欣然同意。刘黑闼当时正在种菜，立刻杀了耕牛，和众将一起吃喝，商议计策，聚集了一百多人。甲戌日，袭击并占据了漳南县。当时，各道有战事就设置行台尚书省，没有战事就撤销。朝廷听说刘黑闼反叛，就在洺州设置山东道行台，在魏州、冀州、定州、沧州都设置了总管府。丁丑日，任命淮安王李神通为山东道行台右仆射。
辛巳日，褒州道安抚使郭行方攻打萧铣的鄀州，攻了下来。
孟海公和窦建德一起被处死，戴州刺史孟啖鬼心里不安，挟持孟海公的儿子孟义，率领曹州、戴州反叛，把禹城县令蒋善合当作心腹；蒋善合和身边的人一起谋划，杀了孟啖鬼。
八月丙戌日初一，发生日食。
丁亥日，朝廷命令太子李建成安抚北方边境。
丁酉日，刘黑闼攻陷鄃县，魏州刺史权威、贝州刺史戴元祥率军迎战，都战败而死，刘黑闼收编了他们的残余部众和武器装备。窦建德的旧部渐渐出来归顺他，部众达到两千人。刘黑闼在漳南筑坛，祭祀窦建德，告知起兵的意图，自称大将军。朝廷下诏征调关中三千步兵骑兵，派将军秦武通、定州总管蓝田人李玄通率军攻打他；又下诏命令幽州总管李艺领兵会合讨伐刘黑闼。
癸卯日，突厥侵犯代州，总管李大恩派行军总管王孝基迎战，全军覆没。甲辰日，突厥进军包围崞县。乙巳日，王孝基从突厥逃回，李大恩兵力薄弱，据城坚守，突厥不敢逼近，一个多月后撤军离开。
唐高祖因为南方的盗贼还很多，丙午日，任命左武候将军张镇周为淮南道行军总管，大将军陈智略为岭南道行军总管，前去镇守安抚。
丁未日，刘黑闼攻陷历亭，捉住屯卫将军王行敏，逼迫他下拜，王行敏不肯，就被杀害了。
起初，洛阳平定后，徐圆朗请求投降，被任命为兖州总管，封为鲁郡公。刘黑闼反叛后，徐圆朗暗中与他勾结。唐高祖派葛公盛彦师安抚河南地区，盛彦师走到任城时；辛亥日，徐圆朗捉住盛彦师，起兵反叛。刘黑闼任命徐圆朗为大行台元帅，兖州、郓州、陈州、杞州、伊州、洛州、曹州、戴州等八州的豪门大族都响应他。徐圆朗厚待盛彦师，让他写信给弟弟，命令弟弟献出虞城投降。盛彦师在信中说：“我奉命出使没有完成任务，被盗贼捉住，作为臣子不忠诚，发誓以死报国；你要好好侍奉母亲，不要挂念我。”徐圆朗起初脸色变了，而盛彦师却神态自若。徐圆朗于是笑着说：“盛将军有高尚的气节，不能杀他。”仍然像以前一样对待他。
河南道安抚大使任瑰走到宋州时，恰逢徐圆朗反叛，副使柳浚劝任瑰退守汴州，任瑰笑着说：“柳浚你怎么这么胆小！”徐圆朗又攻陷了楚丘，领兵准备包围虞城，任瑰派部将崔枢、张公谨从鄢陵率领各州豪门大族的人质一百多人去守卫虞城。柳浚说：“崔枢和张公谨都是王世充的旧将，各州人质的父兄都反叛了，恐怕他们一定会叛变。”任瑰没有回应。崔枢到了虞城，把人质分散，让他们和当地人组队一起守城。盗贼渐渐逼近，有人质叛变，崔枢杀了那个队的队长。于是各个队的队长都害怕了，各自杀了自己队的人质，崔枢没有禁止，还把人质的头颅挂在城门外，派人报告任瑰。任瑰假装发怒说：“我让他们和人质一起守城，是想招降他们的父兄，人质有什么罪而被杀呢！”退下后对柳浚说：“我本来就知道崔枢能办好这件事。县里的人杀了人质，就和盗贼结下了深仇，我还有什么可担心的！”盗贼攻打虞城，果然没能攻下来，只好撤退了。
起初，窦建德任命鄱阳人崔元逊为深州刺史。等到刘黑闼反叛，崔元逊和他的党羽几十人在野外密谋，在车里埋伏了武士，用庄稼盖在上面，假装是农民，直接闯入州府大堂，从庄稼中呐喊着冲出来，捉住刺史裴曦并杀了他，把裴曦的头颅送给刘黑闼。
九月乙卯日，文登盗贼首领淳于难请求投降；朝廷设置登州，任命淳于难为刺史。
突厥侵犯并州；朝廷派遣左屯卫大将军窦琮等人迎战。戊午日，突厥侵犯原州；派遣行军总管尉迟敬德等人迎战。
辛酉日，徐圆朗自称鲁王。
隋末时，歙州盗贼首领汪华占据黟县、歙县等五个州，拥有一万兵力，自称吴王。甲子日，汪华派使者前来投降；朝廷任命他为歙州总管。
隋末时，弋阳人卢祖尚聚集壮士保卫家乡，军队部署严整，各路盗贼都畏惧他。隋炀帝被杀后，同乡人推举他为光州刺史；当时他才十九岁，向皇泰主呈递奏表归顺。王世充自立为帝后，卢祖尚前来投降；丙子日，朝廷任命卢祖尚为光州总管。
己卯日，朝廷下诏清查全国户口。徐圆朗侵犯济州，治中吴汲出兵击退了他。
癸未日，朝廷下诏称：太常寺的乐工都是前代因犯罪而被没收为官奴的，子孙世代承袭，历经多年，实在令人怜悯；应当全部免除他们的官奴身份，恢复为平民，仍然让他们从事乐工工作，如果有人能做官入仕，不要再征召他们回乐工队伍。
甲申日，灵州总管杨师道攻打突厥，打败了他们。杨师道是杨恭仁的弟弟。
朝廷下诏征调巴、蜀地区的军队，任命赵郡王李孝恭为荆湘道行军总管，李靖代理行军长史，统领十二位总管，从夔州顺流东下；任命庐江王李瑗为荆郢道行军元帅，从襄州出兵；黔州刺史田世康从辰州出兵；黄州总管周法明从夏口出兵，共同攻打萧铣。这个月，李孝恭从夔州出发。当时三峡一带江水正涨，各位将领请求等水退了再进军，李靖说：“兵贵神速。如今我们的军队刚刚集结，萧铣还不知道，如果趁着江水上涨，迅速抵达他的城下，趁其不备发动袭击，一定能活捉他；这个机会不能错过！”李孝恭听从了他的建议。
淮安王李神通率领关中军队抵达冀州，与李艺的军队会合。又征调邢州、洺州、相州、魏州、恒州、赵州等州的军队，总共五万多人，在饶阳城南与刘黑闼交战，布阵长达十多里；刘黑闼兵力较少，沿着河堤排成单行阵势抵抗。恰逢刮起大风、下起大雪，李神通乘风进攻，不久风向反转，李神通大败，士兵、马匹和军用物资损失了三分之二。李艺率领军队在西侧，攻打高雅贤，打败了他，追击了几里地，听说主力部队失利，就退守藁城；刘黑闼趁机攻打藁城，李艺也战败了，薛万均、薛万彻兄弟都被俘虏，刘黑闼剪掉他们的头发，驱赶着他们前行。薛万均兄弟趁机逃回，李艺率领军队返回幽州。刘黑闼的兵力声势大振。
唐高祖认为秦王李世民功劳极大，前代的官职都不足以彰显他的功绩，特意设置天策上将一职，地位在亲王、公爵之上。冬季十月，任命李世民为天策上将，兼任司徒、陕东道大行台尚书令，增加封邑二万户，还允许他开设天策府，设置属官；任命齐王李元吉为司空。李世民因为天下逐渐平定，就在宫殿西侧开设文学馆，招揽天下文人学士，发布教令，任命王府属官杜如晦、记室房玄龄、虞世南、文学褚亮、姚思廉、主簿李玄道、参军蔡允恭、薛元敬、颜相时、咨议典签苏勖、天策府从事中郎于志宇、军咨祭酒苏世长、记室薛收、仓曹李守素、国子助教陆德明、孔颖达、信都人盖文达、宋州总管府户曹许敬宗，都以本官兼任文学馆学士，分为三批，轮流在馆中值宿，供给珍贵的饮食，给予优厚的礼遇。李世民上朝处理公务之余，常常到文学馆中，召集各位学士讨论典籍，有时到深夜才休息。又让库直阎立本为各位学士画像，褚亮撰写赞语，号称“十八学士”。士大夫能被选中的，当时的人称之为“登瀛洲”（比喻登上仙境）。蔡允恭是蔡大宝的侄子；薛元敬是薛收的侄子；颜相时是颜师古的弟弟；阎立本是阎毗的儿子。
起初，杜如晦担任秦王府兵曹参军，不久升任陕州长史。当时秦王府的僚属大多被补任为地方官，李世民对此感到忧虑。房玄龄说：“其他人不值得惋惜，至于杜如晦，是辅佐帝王的人才，大王想要治理天下，没有杜如晦可不行。”李世民惊讶地说：“如果不是你提醒，我差点失去他。”立即上奏朝廷，任命杜如晦为秦王府属官。杜如晦和房玄龄常常跟随李世民征战，在军帐中参与谋划，军中事务繁多，杜如晦分析决断迅速利落。李世民每次打败敌军、攻克城池，各位将领都争相抢夺珍宝财物，只有房玄龄招揽人才，把他们招致秦王府中。遇到有勇有谋的将领僚属，房玄龄必定与他们深交，让他们为李世民拼死效力。李世民每次让房玄龄入朝奏事，唐高祖都感叹说：“房玄龄为我儿子陈述事情，即使相隔千里，也好像当面交谈一样。”李玄道曾经侍奉李密，担任记室，李密战败后，他的属官都被王世充俘虏，大家都害怕被杀，整夜无法入睡。只有李玄道起居自如，说：“生死有命，不是担忧就能避免的！”众人都佩服他的见识和气量。
庚寅日，刘黑闼攻陷瀛州，杀死刺史卢士睿。观州百姓捉住刺史雷德备，献城投降刘黑闼。
辛卯日，萧铣的鄂州刺史雷长颖献出鲁山，前来投降。
赵郡王李孝恭率领两千多艘战船东下，萧铣因为江水正涨，完全没有防备；李孝恭等人攻克了萧铣的荆门、宜都两个镇，进军到夷陵。萧铣的将领文士弘率领几万精兵驻扎在清江，癸巳日，李孝恭击退了他，缴获三百多艘战船，杀死、淹死的敌军数以万计；追击到百里洲，文士弘收兵再战，又被打败，唐军进入北江。萧铣的江州总管盖彦举献出五个州，前来投降。
毛州刺史赵元恺，性情严厉急躁，下属无法忍受他的政令。丁卯日，毛州百姓董灯明等人作乱，杀死赵元恺，响应刘黑闼。
盛彦师从徐圆朗那里逃了回来。王薄趁机劝说青州、莱州、密州等州投降，这些州都被攻克。
萧铣之前裁军让士兵务农，只留下几千名侍卫，听说唐军到来、文士弘战败，非常害怕，仓促征兵，但士兵都在长江、五岭以南，路途遥远，无法迅速集结，于是出动全部现有兵力迎战。李孝恭准备进攻，李靖阻止他说：“他们是挽救败局的军队，计策不是预先制定的，气势不能持久，不如暂且停泊在南岸，暂缓一天进攻，他们必定会分兵，有的留下抵抗我们，有的返回守卫城池；兵力分散后势力薄弱，我们趁他们松懈时进攻，没有不胜的。如今如果急于进攻，他们就会合力死战，楚军勇猛锐利，不容易抵挡。”李孝恭不听，留下李靖守卫军营，亲自率领精锐部队出战，果然战败逃跑，退回南岸。萧铣的士兵丢弃战船，抢夺唐军的军用物资，每个人都背着沉重的财物，李靖看到敌军混乱，出兵奋力进攻，大败敌军，乘胜直抵江陵，攻入外城。又攻打水城，攻克后，缴获大量战船，李靖让李孝恭把战船全部散放到长江中。各位将领都说：“打败敌军缴获的战船，应当利用它们，为什么要丢弃来资助敌人？”李靖说：“萧铣的地盘，南到岭南，东到洞庭湖。我们孤军深入，如果攻城不下，敌军援兵从四面八方赶来，我们就会腹背受敌，进退两难，即使有战船，又有什么用呢？如今丢弃战船，让它们堵塞长江顺流而下，援兵看到后，必定认为江陵已经被攻破，不敢轻易前进，会来回侦察，这样一来，至少会拖延十天半个月，我们一定能攻下江陵。”萧铣的援兵看到战船，果然疑虑不敢前进。萧铣的交州总管丘和、长史高士廉、司马杜之松等人正要前往江陵朝见，听说萧铣战败，都到李孝恭那里投降。
李孝恭领兵包围江陵，萧铣内外隔绝，向中书侍郎岑文本询问对策，岑文本劝萧铣投降。萧铣于是对群臣说：“上天不保佑梁朝，我们已经无法支撑下去了。如果一定要等到兵力耗尽才投降，百姓就会遭受灾难，怎么能因为我一个人，让百姓陷入水深火热之中呢！”乙巳日，萧铣用太牢（猪、牛、羊三牲）祭祀太庙，下令打开城门投降，守城的士兵都哭了。萧铣率领群臣穿着丧服、戴着布头巾，到军营门口投降，说：“该死的只有我萧铣一个人，百姓没有罪，希望不要杀掠他们。”李孝恭进入并占据江陵城，各位将领想大肆抢掠，岑文本劝李孝恭说：“江南的百姓，自从隋末以来，遭受虐政之苦，又加上群雄争斗，如今能存活下来的，都是经历过战乱的人，他们踮着脚尖、伸长脖子盼望贤明的君主，所以萧氏君臣、江陵父老才决心归顺，希望能得到喘息的机会。如今如果放纵士兵抢掠，让百姓失望，恐怕从这里往南，再也没有人愿意归顺朝廷了！”李孝恭称赞他说得对，立即下令禁止抢掠。各位将领又说：“梁朝的将帅中，那些与官军抵抗战死的，罪行很重，请没收他们的家产，赏赐给将士们。”李靖说：“王者的军队，应当先树立道义的名声。他们为自己的君主战死，是忠臣，怎么能把他们等同于叛逆，没收他们的家产呢！”于是江陵城中秩序安定，唐军秋毫无犯。南方的州县听说后，都望风归顺。萧铣投降几天后，赶来的援兵有十多万，听说江陵已经失守，都放下武器投降。
李孝恭把萧铣押送到长安，唐高祖斥责他的罪行。萧铣说：“隋朝失去了天下，天下人都来争夺。我没有天命，所以落到这个地步；如果认为我有罪，我无话可说，甘愿受死！”最终在闹市被斩首。朝廷下诏任命李孝恭为荆州总管；李靖为上柱国，赐爵永康县公，仍然让他安抚岭南地区，有权秉承皇帝旨意任命官员。
此前，萧铣派遣黄门侍郎、江陵人刘洎攻占岭南地区，夺取了五十多座城池，还没返回江陵，萧铣就战败了，刘洎献出所攻占的城池，前来投降；朝廷任命他为南康州都督府长史。
戊申日，徐圆朗的昌州治中刘善行献出须昌，前来投降。
庚戌日，朝廷下诏：陕东道大行台尚书省，从尚书令、仆射到郎中、主事，官阶品级都与京城的尚书省相同，但官员人数略少，山东行台及各总管府、各州都隶属于它。益州、襄州、山东、淮南、河北等道的行台，从尚书令、仆射以下，官阶各比京城的尚书省低一等，官员人数又进一步减少。行台尚书令有权秉承皇帝旨意任命官员。除了秦王、齐王府的官员外，各自设置左右六护军府，以及左右亲事帐内府。
闰十月乙卯日，唐高祖前往稷州；己未日，前往武功县的旧宅；壬戌日，在好畤打猎；乙丑日，在九嵕山打猎；丁卯日，在仲山打猎；戊辰日，在清水谷打猎，随后前往三原；辛未日，前往周氏陂；壬申日，返回长安。
十一月甲申日，唐高祖在圜丘祭祀上天。
杜伏威派他的将领王雄诞攻打李子通，李子通率领精兵守卫独松岭。王雄诞派遣副将陈当率领一千多人，占据高处险要之地逼近李子通，大量竖起旗帜，夜晚则在树上捆扎火把，布满山野沼泽。李子通感到害怕，烧毁营寨逃到杭州坚守；王雄诞追击他，又在杭州城下打败他。庚寅日，李子通走投无路，请求投降。杜伏威捉住李子通和他的左仆射乐伯通，押送到长安；唐高祖赦免了他们。
此前，汪华占据黟县、歙县，称王十多年。王雄诞回师攻打他，汪华在新安洞口抵抗，士兵装备精良。王雄诞在山谷中埋伏精兵，率领几千名瘦弱的士兵进攻汪华的阵地，刚一交战，就假装战败，逃回营寨；汪华率军进攻，没能攻克，恰逢天黑，领兵返回，这时埋伏的士兵已经占据了洞口，汪华无法进入，走投无路请求投降。
闻人遂安占据昆山，没有百姓归附，杜伏威派王雄诞攻打他。王雄诞认为昆山地势险要，难以用武力攻克，于是单人匹马来到城下，向闻人遂安陈述朝廷的威严，指明利害祸福。闻人遂安感动喜悦，率领各位将领出城投降。于是杜伏威完全占据了淮南、江东地区，南到五岭，东到大海。王雄诞因功被任命为歙州总管，赐爵宜春郡公。
壬辰日，林州总管刘昮攻打刘仚成，大败敌军。刘仚成仅自身逃脱，他的部落全部投降。
李靖越过五岭，派使者分路招抚各州，所到之处都纷纷归降。萧铣的桂州总管李袭志率领所辖各州前来投降，赵郡王李孝恭当即任命李袭志为桂州总管，第二年李袭志入朝。朝廷任命李靖为岭南抚慰大使，代理桂州总管，他领兵攻占九十六州，获得六十多万户百姓。
壬寅日，刘黑闼攻陷定州，捉住总管李玄通。刘黑闼爱惜他的才能，想任命他为大将，李玄通坚决拒绝。有曾经的部下送酒肉给他，李玄通说：“各位怜悯我遭受囚禁的屈辱，特意送酒肉来开导安慰我，我就为各位痛饮一场。”酒喝到尽兴时，他对看守说：“我会剑舞，希望借我一把刀。”看守给了他刀，李玄通舞完剑，叹息道：“大丈夫受国家厚恩，镇守一方，却不能保全所守之地，还有什么脸面活在世上！”随即举刀自刎，剖开腹部而死。唐高祖听说后，为他流下眼泪，任命他的儿子李伏护为大将。
庚戌日，杞县人周文举杀死刺史王文矩，献城响应徐圆朗。
幽州发生大饥荒，高开道答应拿出粮食救济。李艺派老弱百姓到高开道那里谋生，高开道都厚待他们。李艺很高兴，于是征发三千百姓、几百辆车、一千多匹驴马，前往高开道处领取粮食。高开道把这些人、车、牲畜全部扣留，与李艺断绝关系。他再次自称燕王，向北联合突厥，向南与刘黑闼勾结，领兵攻打易州，没能攻克，大肆抢掠后离去。又派他的将领谢棱向李艺诈降，请求派兵接应，李艺出兵响应。军队快到怀戎时，谢棱突然袭击，打败了李艺的军队。高开道与突厥联合，多次入侵边境，恒州、定州、幽州、易州都遭受了他的祸害。
十二月乙卯日，刘黑闼攻陷冀州，杀死刺史麴棱。刘黑闼打败淮安王李神通后，向赵、魏地区发送文书，原来窦建德的将领士兵争相杀死唐朝官吏，响应刘黑闼。庚申日，朝廷派遣右屯卫大将军义安王李孝常领兵讨伐刘黑闼。刘黑闼率领几万兵力逼近宗城，黎州总管李世积原本驻扎在宗城，见状弃城退守洺州。甲子日，刘黑闼追击李世积等人，打败唐军，杀死五千名步兵，李世积仅自身逃脱。丙寅日，洺州的土豪百姓打开城门，响应刘黑闼。刘黑闼在城东南筑坛，祭告上天并祭祀窦建德后才进城；十天后，领兵攻克相州，捉住刺史房晃，右武卫将军张士贵冲破包围逃走。刘黑闼向南攻取黎州、卫州，半年之内，完全收复了窦建德原来的地盘。又派使者向北联合突厥，颉利可汗派遣俟斤宋邪那率领胡族骑兵跟随刘黑闼。右武卫将军秦武通、洺州刺史陈君宾、永宁令程名振都从河北逃回长安。
丁卯日，朝廷命令秦王李世民、齐王李元吉率军讨伐刘黑闼。
昆弥派使者归附唐朝。昆弥就是汉朝时的昆明。巂州治中吉驻纬打通了与南宁的联系，到昆弥国劝说他们，于是昆弥国前来投降。
己巳日，刘黑闼攻陷邢州、赵州；庚午日，攻陷魏州，杀死总管潘道毅；辛未日，攻陷莘州。
壬申日，朝廷改封宋王李元嘉为徐王。