“我們與劉賊相持已經兩個月有餘，我們堅壁不出，並非示以怯意，其實為少傷人命。那劉賊久困洺州之內，我們斷其糧道，其城中存糧已經無多，觀夜來其拼命突圍的勁頭，他大概已經撐不下去了。諸位，破敵之機，就在今日。我們現在就找劉賊決戰。”
眾將聽說要和劉黑闥決戰，群情振奮，一迭聲叫好。李世民低頭對薛氏兄弟道：“兩位薛將軍，請你們上覆燕公，將世民這番心意講明。若要一鼓作氣擊破洺州，斷斷少不了燕公的協助。”
薛氏兄弟點頭稱諾。
李世民又道：“此次決戰，本王不想全憑人力，一月以前已讓史將軍他們在洺水上游準備了一件厲害兵器。屆時上陣，請各位將軍約束手下，密切注意中軍令旗和號炮，按計行事。”
眾將對李世民的指揮早已心悅誠服，知道若按中軍之令行事，或進或退，並無太多差失。大家滿心喜歡，眼瞅著此次戰役即可一戰結束。
李世民準備的這件厲害兵器，即是洺水那奔騰的碧波。
洺水河床並不太寬，僅有二十餘丈。其緩緩東流，到了洺州沿西牆向南，繞過南牆復又向北，順東牆而流，然後猛一轉彎折向東北，直到與漳水交匯。這樣，洺水從三面繞著洺州城牆而走，成了洺州天然的護城河。劉黑闥覺得可以倚勢防守，不需要投入太多的兵力，因而把主要防守重兵放在了北城牆。
李世民為了摸清敵情，曾多次輕騎來到洺州城外觀察。隨行眾將見了洺州的地勢，都說劉黑闥有眼，尋到了這個絕佳的易守難攻的城堡。李世民不這樣認為，他對李世說道：“世兄，如今洺水上游由段志玄他們把持，若在那裡壘堰阻水，然後決堤放流，能否就此衝了洺州？”
李世眼睛一亮，覺得此計大妙，興奮地說道：“洺州城牆較高，水難入城。不過劉賊日日前來索戰，可以將之引到一低窪地，再以水衝之，定能收到奇效。”
水淹敵軍之計，就這樣很快定了下來。段志玄、史大柰、張公謹三將接到李世民的將令，一面防備劉黑闥前來進攻，一面派人在洺水上游閘了一道高高的堤壩，用來蓄水。
三月二十六日，唐軍列隊向洺州進發。劉黑闥聞訊，覺得昨夜固然兵敗，畢竟損失不多，如今唐軍想乘勝來佔些便宜，正可趁其疲乏之際將之打敗以求突圍。他對眾將道：“我們能否突圍，就看現在能否打勝此仗。現在李世民驅疲憊之軍，明顯輕慢我等。我們可激勵大家士氣，拿出韓信過河焚舟的勁頭，與唐軍浴血決戰。”說完，他帶領步騎二萬出北門，然後南渡洺水，向唐軍迎去。
李世民早已摸清周圍地勢，令各營在指定位置排定，那裡是扇形的高地，面前是一片開闊的低窪地。巳時三刻，劉黑闥的步騎緩緩東來，漸漸入了唐兵的視線。他們在低窪地裡排成陣列，手持盾牌開始衝鋒，一抵近前，唐兵的弩箭紛紛迎面射來，逼迫他們又退了下去。這樣，唐軍佔領了三面高地，恰恰將敵軍圍在前方的低地裡。
此時日近中天，溫暖的陽光灑在大地上，雙方可以看清彼此的臉孔。相較之下，坡上的唐軍旗幡嚴整，衣甲鮮明；而坡下的敵軍因飢餓已久，人人臉現菜色，透出狼狽之相。李世民騎著“拳毛”，迎風站立在南面高坡之上，仔細觀察劉黑闥軍隊的陣勢，冷寂的臉上透出一絲輕鬆，覺得今日已穩操勝券。他回首對李世說道：“世兄，我帶人衝鋒，中軍由你把持。可讓步卒堅守高地，不許他們妄動。你待洺水決堰之後，可點燃號炮，約束大軍齊進齊退。”說完，他將大手一揮，一扯韁繩，“拳毛”撒開蹄子率先衝下高坡。身後的秦叔寶、程咬金、尉遲敬德見狀，急忙控馬跟隨，八千馬軍隨後衝殺。
這八千人霎時就衝到了敵軍陣前，他們入陣後橫挑豎劈，殺得血肉橫飛。劉黑闥見狀，急忙驅使手下馬隊前去接戰。無奈唐軍馬隊領了先殺敵步卒的方略，不主動與他們交戰，往往一觸即離。兩方馬騎就在劉軍步卒方陣裡來回賓士，許多劉軍步卒成了蹄下之鬼。
北邊的薛氏兄弟見李世民已經發動，帶領五千馬騎飛快闖入敵陣。一時間，偌大窪地裡人馬往來，人們的喊殺聲和傷馬的哀鳴聲混成一團。
劉黑闥見難以截住唐軍馬隊的廝殺腳步，遂令手下放箭。很快，他們箭發如雨，紛紛射向陣中的唐兵，然箭羽入陣後不認敵我，連帶著傷了自家不少人。
李世民的“拳毛”躲避不及中了幾箭，它負痛嘶鳴一聲，繼而身子直豎起來，險些把李世民顛下馬來。李世民緊貼馬背穩住身體，大喝道：“敬德，你帶領三千人衝散劉賊馬隊，阻止他們放箭。”尉遲敬德領命而去。李世民俯身看“拳毛”的傷勢，見幾處傷並不致命。其中三處所傷甚淺，剩下一箭貫穿了馬尾，他伸手為馬拔出箭羽，叫道：“好馬兒，且再忍耐一會兒，看我為你報仇。”
尉遲敬德領人迎著箭雨衝鋒，雙方形成了混戰局面。戰鬥進行到未時，李世民見己方顯得力薄，遂命令秦叔寶道：“放號炮。”
混戰軍陣裡響起了三聲號炮響聲，李世聽到後，知道這是李世民的命令，就將手中紅旗招起，唐軍步卒隊伍立刻起動，從三面蜂擁入陣。這二萬步卒加入戰團，頓時改變了雙方態勢。唐軍漸漸將敵陣壓迫後退。
此時天已經黃昏，範願見大勢已去，無奈對劉黑闥說道：“大王，唐軍勢大，西面的唐軍還沒有發動，不知又有什麼名堂。我看今天凶多吉少。留得青山在，不怕沒柴燒，我們要先找一條生路。現在向北突圍已經無望，不如少帶人馬從唐軍夾縫中逸出，向北投奔突厥，今後再徐圖發展。”
劉黑闥此時人困馬乏，又見喊殺聲中，唐軍推進的速度越來越快，遂嘆道：“也罷。範將軍，你派人去通知高雅賢他們，讓他們也想法衝出去，我們先走，待潛出幽州後再會齊。”範願一面派人通知高雅賢等人，一面和身邊的二百餘人掩護著劉黑闥，他們且戰且退，悄悄脫離了戰場。
這時，李世在中軍又燃起了三聲號炮，聲音在夜空中異常響亮。這是退兵訊號，唐軍遂止住腳步，手執軍械護身向高地撤退。劉軍本來就陷入絕陣，見對方主動收手，一時不明所以，他們此時已經散了佇列，悽惶惶如一群亂羊，踉踉蹌蹌向洺州退去。
這邊的唐軍緩緩上了高坡。
天色已經黑透，高雅賢、董康買等人向洺州狂奔，已經遙遙望見了城內的燈火。原來範願派出通知之人亂軍中沒有找到高、董二人，反而遭到殺戮。這樣，高、董二人沒有意識到他們已經陷入絕境。他們先是聽到一陣如驚雷的聲音隆隆而來，繼而聽到前列之人呼喊驚號，很快，一片白漫漫的大水撲面而來，瞬間將他們衝得無影無蹤。
李世民站在高坡上聽見上面來的水聲，知道大勢已定。他令大軍退回各自營地，好好睡上一覺，待明日天亮之後再來打掃戰場，接收洺州。他習慣地拍了一下馬頸，卻觸手空空。李世民忽然想起，那匹心愛的“拳毛”今日共中了九箭，力戰而死。這會兒馬屍被洪水裹挾，其身不知漂到何處去了，一剎那間，他心頭泛出了無限傷感。
洺水一戰，除了劉黑闥本人帶領二百餘騎投奔突厥之外，其餘叛軍悉被平定，大唐又重新控制了河北諸州。
由於劉黑闥的影響，任城的徐圓朗和漁陽的高開道起兵與之響應。李世民如今打敗了劉黑闥，他與李藝商量，由李藝領兵北上剿滅高開道，自己則與李元吉一起向東南進發，準備擒拿徐圓朗，以徹底安定山東之地。
李元吉此次跟隨李世民，一路上如同擺設，每及戰事，皆讓他守營，每議大事，壓根就不與他商量。李元吉身在河北，有專使與長安相通，李建成寫給他許多書信，將朝中之事通報於他。李元吉已經知道了父皇現在對李世民的態度，這天他見了李世民準備去進攻徐圓朗，覺得機會來了，遂修書一封，派專人送往長安。李元吉認為，父皇僅讓你李世民討伐劉黑闥，如今事已平息，卻又節外生枝，而且當奏不奏擅自行事，其禍必咎由自取矣！