第二日劉備醒來的時候，天已經大亮。昨夜他在傷兵裡忙碌至半夜，子時三刻方才入睡，這一夜他睡得很淺，似乎床下亦有薪柴熊熊，讓他的床褥滿是汗水。待他醒來時，他感覺頭上又脹又疼，似是帳內太過密閉，讓人感覺氣悶。
他將帳門支起，晨風吹拂進來，劉備看到陽光透過晉陽城巍巍的牆洞，直照在昨日的戰場上，頭痛得愈發厲害。
關羽此時剛從晉水沐浴而歸，他扛著長槊赤著上身，露出鑄鐵般的身軀，肌膚上尚未蒸發的水珠在陽光裡析出迷幻的色彩，使他宛如上古裡捕龍擒蛟的神人。他見劉備面色不佳，忙上前攙起兄長，說道：“兄長可再歇息片刻。”
劉備搖首拒絕，抽出手來挺直腰背，試圖驅除體內不適，他又對關羽問道：“軍中士氣如何？”關羽神色黯淡，他嘆氣道：“昨夜兄長忙了半日，安撫士卒，救治傷兵，軍中都很是感動，只是又有四十來人傷勢惡化，已經傷重不治了。”
“黑山軍呢？他們反應如何？”劉備說了這一句後，隨即又自嘆道：“昨日是我失策，本應先由他們上城才是，如今我軍初戰失利，於毒白繞恐生畏戰之心，黑山軍卒未與胡人結仇，反易怯戰，今日之戰更難驅使他等了。”
說到這裡，劉備忽而想起陳沖，又想起了當年鉅鹿之戰的陣勢，千秋亭漢軍屠城的哀嚎。他不禁有些感傷，勉力道：“雲長，如今幷州存亡皆系此戰結果，如不能攻下此城，逼迫胡虜主力回援，庭堅逼降匈奴的謀劃恐怕也就前功盡棄，你我決不能讓此事發生！”
關羽頷首應是，他沉思片刻，對劉備說道：“既如此，兄長讓我與翼德前往黑山軍中，今日可兩面攻城，兄長從東牆先攻，我隨後從南牆攻，先鼓起黑山軍鬥志，然後才能談如何破城。”
“好！”劉備展露出笑容來，輕撫關羽尚未癒合的箭傷，關懷他說：“雲長，你傷勢未愈，不要勉強，如今日未取戰果，便徐徐圖之，庭堅常說，有志者事竟成，你我誓要匡扶天下，怎能頓兵於此？”
關羽回憶起結義之時，也不由心中感動，他收拾好斫刀弓矢，批好甲冑兜鍪，對劉備告了聲別，便叫上張飛和十來個士卒一同往黑山營中走去。劉備自然也不敢有所懈怠，他今日又特意檢視所有的攻城器械，並對士卒們一一講解攻城要點。
劉備本就是一個胸懷壯志的奇男子，昨日的失敗讓他一時氣餒，但此時他越準備越躊躇滿志，心中的憂慮和遲疑稍作停留便化為煙雲，對此，他對士卒笑言道：“數年來我等在青徐剿賊滅寇，少有敗績，竟從未遇到如此城池，此戰過後，我定要在城頭用斫刀刻下我劉玄德的名字。”
全軍將士見他談笑自如，一掃昨日陰霾，紛紛振作精神，各自備戰。直至辰時，漢軍捲土重來，城上城下各自嚴陣以待。
與昨日不同，劉備在陣前先豎起十張巨鼓，一鼓高達兩丈，鼓皮都是用上好的青牛皮燒製而成，鼓手都是軍中精挑細選的的九尺力士，一槌之下，方圓三里皆可聽見鼓聲，城上城下聽聞，無不覺頭痛欲裂，難以專注。
隨後漢軍在城前繼續填充土山，呼衍于勒都見狀，繼續命令牆上部眾放矢遠射，只是今日卻沒有昨天那般的北風，死傷者大為減少，漢軍見狀軍心大安，繼續填土築臺。因陳沖緣故，劉備與其餘漢軍不同，手下除去弓弩刀劍等兵器外，格外設定有攜有大量車械，野戰時可結為車陣固守，攻城時也可幫助建造工事，大約一個時辰左右，兩座兩丈高的土臺便堆填完成。
劉備一邊安排人在土臺上佈置木簾渠答，一邊召集軍中善射者登上土臺，終於拿出前日準備的火矢，火矢的箭頭包滿了麻絮，又裹上火油，在土臺上燃起篝火，箭士們登上土臺，對準城上油壇紛紛射擊。
仰頭拋射雖說困難，但匈奴人也不知如何應對，只能仍由城下漢軍與自己對射，等對射三輪，漢軍射中一罈，城牆上即刻升起硝煙，東牆一處油壇連中五矢，油壇打碎，熱油直接灑在柴薪之間，短時間便燃起熊熊大火，呼延卜安連連喚人用砂土滅火，只是牆上無此準備，一時間滅火不去。
見開啟一個缺口，漢軍將士無不歡呼沸騰，配上震耳欲聾的鼓聲，一時間士氣大振，劉備終於下令說：“我軍便從此處登城！”登城將士在一旁養精蓄銳，此時便傾巢而出，呂布以為此時正是大好時機，自告奮勇道：“我為先登！”
經過昨日的失利，今日的雲梯俱進行了二次加固，梯背又加了幾道斜撐。等漢軍故技重施，在城下安裝好雲梯，城上的呼延部眾仍尚未撲滅火勢。呂布整備好甲冑，往頭上包上兩道浸透的麻巾，把長槊捆在背上，又往腰間配了三把斫刀，對身後計程車卒說道：“我身甚重，爾等待我上城之後，再上雲梯。”
說罷，呂布雙手緊握梯身，猛然發力，如同一匹猛虎般沿雲梯飛馳而上，不過幾個眨眼間，便已攀上三丈，整座雲梯都為之搖曳。
呼衍于勒都見一時不能撲滅火勢，早就安排射手在兩側引弓等待，熟料射手還未從油煙中望見人影，卻驟起一道風聲，眾人恍惚之間，便見一把長戟洞穿了射手的脖頸，扎破動脈，鮮紅的血液沿著戟刃淅淅瀝瀝，如同拍碎了一筐紅李。
就在胡人心神震懾之時，呂布一躍而上，空中抽出一柄斫刀，穿過煙霧霍然撲倒一名射手，隨即抓住獵物，在地上一個翻身，用其擋住射手的第一輪齊射。未等呼延卜安再次引弓，他將手中已扎城刺蝟的胡人扔至城下，拔出長戟，高喝道：“殺！”
殺聲如震，城下漢軍得到訊息，紛紛登梯上城，呼延卜安見狀，連忙派部中最為高大的三名力士前往阻攔，十來人手持木盾結陣在後，射手退至盾陣之後伺機再射，呂布好整以暇，脫下頭部的麻巾，拔出方前擲出的長戟，將屍首踢至一旁，笑言道：“孰與我一決生死？”
話雖如此，呂布之勇武也到底只是一人之勇，三名力士身穿從城中武庫搜刮來的鐵甲，齊揮斧鉞，猶如巨石一般將呂布堵截在一角，呂布縱有扛鼎之能，也只能你迎我往，互不相讓。
好在此時漢軍逐漸爬上城樓，東牆吸引了牆上胡人的大量兵力，黑山軍在南牆的阻力自然也削弱不少，張飛對黑山軍做了半日的動員：“我等皆為漢人，前漢破胡侯有言：一漢當五胡！大家雖出身貧苦，可豈能墮前人武名？殺進城中，晉陽財貨可盡分於諸位！”
黑山軍方才勉強振奮鬥志，拉出萬人分為五部，於毒白繞率四部，交予張飛關羽一部，在南牆五處蟻附登城。
張飛頂著箭矢攀上城牆，胡卒舉刀便要斬去張飛的手指，只是張飛藉著最後一攀的衝力，將阻攔的胡卒也衝撞在地，幾名胡卒緊跟著前來阻攔，但張飛一聲低喝，俯身一掃腿將胡卒打翻，順手從腰間拔出斫刀劈開一人的額頭，白花花的腦漿伴隨著血水擠出來，其餘胡卒也隨之膽怯。
此時晉陽城防已經出現兩次缺口，雖然可以說仍有所僵持，但較昨日而言，毫無疑問是形勢一片大好，就在這胡卒氣沮的時刻，呼衍于勒都急中生智，對身後士卒呼喊說：“將薪柴扔過去！扔過去！”
說話間呂布忽而發現一力士扭身露出甲冑間的空隙，當即將斫刀沿著鐵片徑直插入進去，待他攪上一手再抽刀拔出，那力士咕嚕一聲，撲倒在地，傷口中隨著膏油鮮血又流出碎裂的腸子，眼看就是不活了。
正興奮間，于勒都將薪柴運到，幾名胡卒往呂布頭上齊齊一擲，撞在甲冑上，逼得呂布往後連退三步，他才發現是一根燃燒的樑柱。
城上的薪柴多時用樑柱門板所致，材質不僅牢固耐燒，而且尺寸龐大。吃了這一擊，只覺得甲冑發燙，猶豫間，胡卒將薪柴在他面前堆成一堵火牆，呂布本想乘機擴大戰果，但薪柴燃燒到處瀰漫黃白色的灰煙，不止嗆人口鼻，還迷得漢軍將士流淚不止。別說前進半步，就連在原地駐守也難以進行。
張飛在南牆也僅能維持兩刻攻勢，黑山軍雖然勉力出兵，但除去少數將領外，大部分士卒連最劣質的狗皮甲也無，只能短褐粗衣，硬頂著箭雨作戰，能上城作戰者不過十之二三，傷亡巨大且後援難濟，即使南牆守軍並不多見，張飛也無能為力，無人跟上，他也只能原路後撤。
第二日攻勢又陷入了挫折，劉備下令鳴金收兵，但鼓聲仍然不停，他換了一批鼓手，對他們說道：“如今雖屢戰無功，可只要你等日夜擂鼓，待敵心神俱疲，便是我等克勝之時。”
