第二日刘备醒来的时候，天已经大亮。昨夜他在伤兵里忙碌至半夜，子时三刻方才入睡，这一夜他睡得很浅，似乎床下亦有薪柴熊熊，让他的床褥满是汗水。待他醒来时，他感觉头上又胀又疼，似是帐内太过密闭，让人感觉气闷。
他将帐门支起，晨风吹拂进来，刘备看到阳光透过晋阳城巍巍的墙洞，直照在昨日的战场上，头痛得愈发厉害。
关羽此时刚从晋水沐浴而归，他扛着长槊赤着上身，露出铸铁般的身躯，肌肤上尚未蒸发的水珠在阳光里析出迷幻的色彩，使他宛如上古里捕龙擒蛟的神人。他见刘备面色不佳，忙上前搀起兄长，说道：“兄长可再歇息片刻。”
刘备摇首拒绝，抽出手来挺直腰背，试图驱除体内不适，他又对关羽问道：“军中士气如何？”关羽神色黯淡，他叹气道：“昨夜兄长忙了半日，安抚士卒，救治伤兵，军中都很是感动，只是又有四十来人伤势恶化，已经伤重不治了。”
“黑山军呢？他们反应如何？”刘备说了这一句后，随即又自叹道：“昨日是我失策，本应先由他们上城才是，如今我军初战失利，于毒白绕恐生畏战之心，黑山军卒未与胡人结仇，反易怯战，今日之战更难驱使他等了。”
说到这里，刘备忽而想起陈冲，又想起了当年巨鹿之战的阵势，千秋亭汉军屠城的哀嚎。他不禁有些感伤，勉力道：“云长，如今并州存亡皆系此战结果，如不能攻下此城，逼迫胡虏主力回援，庭坚逼降匈奴的谋划恐怕也就前功尽弃，你我决不能让此事发生！”
关羽颔首应是，他沉思片刻，对刘备说道：“既如此，兄长让我与翼德前往黑山军中，今日可两面攻城，兄长从东墙先攻，我随后从南墙攻，先鼓起黑山军斗志，然后才能谈如何破城。”
“好！”刘备展露出笑容来，轻抚关羽尚未愈合的箭伤，关怀他说：“云长，你伤势未愈，不要勉强，如今日未取战果，便徐徐图之，庭坚常说，有志者事竟成，你我誓要匡扶天下，怎能顿兵于此？”
关羽回忆起结义之时，也不由心中感动，他收拾好斫刀弓矢，批好甲胄兜鍪，对刘备告了声别，便叫上张飞和十来个士卒一同往黑山营中走去。刘备自然也不敢有所懈怠，他今日又特意检视所有的攻城器械，并对士卒们一一讲解攻城要点。
刘备本就是一个胸怀壮志的奇男子，昨日的失败让他一时气馁，但此时他越准备越踌躇满志，心中的忧虑和迟疑稍作停留便化为烟云，对此，他对士卒笑言道：“数年来我等在青徐剿贼灭寇，少有败绩，竟从未遇到如此城池，此战过后，我定要在城头用斫刀刻下我刘玄德的名字。”
全军将士见他谈笑自如，一扫昨日阴霾，纷纷振作精神，各自备战。直至辰时，汉军卷土重来，城上城下各自严阵以待。
与昨日不同，刘备在阵前先竖起十张巨鼓，一鼓高达两丈，鼓皮都是用上好的青牛皮烧制而成，鼓手都是军中精挑细选的的九尺力士，一槌之下，方圆三里皆可听见鼓声，城上城下听闻，无不觉头痛欲裂，难以专注。
随后汉军在城前继续填充土山，呼衍于勒都见状，继续命令墙上部众放矢远射，只是今日却没有昨天那般的北风，死伤者大为减少，汉军见状军心大安，继续填土筑台。因陈冲缘故，刘备与其余汉军不同，手下除去弓弩刀剑等兵器外，格外设置有携有大量车械，野战时可结为车阵固守，攻城时也可帮助建造工事，大约一个时辰左右，两座两丈高的土台便堆填完成。
刘备一边安排人在土台上布置木帘渠答，一边召集军中善射者登上土台，终于拿出前日准备的火矢，火矢的箭头包满了麻絮，又裹上火油，在土台上燃起篝火，箭士们登上土台，对准城上油坛纷纷射击。
仰头抛射虽说困难，但匈奴人也不知如何应对，只能仍由城下汉军与自己对射，等对射三轮，汉军射中一坛，城墙上即刻升起硝烟，东墙一处油坛连中五矢，油坛打碎，热油直接洒在柴薪之间，短时间便燃起熊熊大火，呼延卜安连连唤人用砂土灭火，只是墙上无此准备，一时间灭火不去。
见打开一个缺口，汉军将士无不欢呼沸腾，配上震耳欲聋的鼓声，一时间士气大振，刘备终于下令说：“我军便从此处登城！”登城将士在一旁养精蓄锐，此时便倾巢而出，吕布以为此时正是大好时机，自告奋勇道：“我为先登！”
经过昨日的失利，今日的云梯俱进行了二次加固，梯背又加了几道斜撑。等汉军故技重施，在城下安装好云梯，城上的呼延部众仍尚未扑灭火势。吕布整备好甲胄，往头上包上两道浸透的麻巾，把长槊捆在背上，又往腰间配了三把斫刀，对身后的士卒说道：“我身甚重，尔等待我上城之后，再上云梯。”
说罢，吕布双手紧握梯身，猛然发力，如同一匹猛虎般沿云梯飞驰而上，不过几个眨眼间，便已攀上三丈，整座云梯都为之摇曳。
呼衍于勒都见一时不能扑灭火势，早就安排射手在两侧引弓等待，熟料射手还未从油烟中望见人影，却骤起一道风声，众人恍惚之间，便见一把长戟洞穿了射手的脖颈，扎破动脉，鲜红的血液沿着戟刃淅淅沥沥，如同拍碎了一筐红李。
就在胡人心神震慑之时，吕布一跃而上，空中抽出一柄斫刀，穿过烟雾霍然扑倒一名射手，随即抓住猎物，在地上一个翻身，用其挡住射手的第一轮齐射。未等呼延卜安再次引弓，他将手中已扎城刺猬的胡人扔至城下，拔出长戟，高喝道：“杀！”
杀声如震，城下汉军得到消息，纷纷登梯上城，呼延卜安见状，连忙派部中最为高大的三名力士前往阻拦，十来人手持木盾结阵在后，射手退至盾阵之后伺机再射，吕布好整以暇，脱下头部的麻巾，拔出方前掷出的长戟，将尸首踢至一旁，笑言道：“孰与我一决生死？”
话虽如此，吕布之勇武也到底只是一人之勇，三名力士身穿从城中武库搜刮来的铁甲，齐挥斧钺，犹如巨石一般将吕布堵截在一角，吕布纵有扛鼎之能，也只能你迎我往，互不相让。
好在此时汉军逐渐爬上城楼，东墙吸引了墙上胡人的大量兵力，黑山军在南墙的阻力自然也削弱不少，张飞对黑山军做了半日的动员：“我等皆为汉人，前汉破胡侯有言：一汉当五胡！大家虽出身贫苦，可岂能堕前人武名？杀进城中，晋阳财货可尽分于诸位！”
黑山军方才勉强振奋斗志，拉出万人分为五部，于毒白绕率四部，交予张飞关羽一部，在南墙五处蚁附登城。
张飞顶着箭矢攀上城墙，胡卒举刀便要斩去张飞的手指，只是张飞借着最后一攀的冲力，将阻拦的胡卒也冲撞在地，几名胡卒紧跟着前来阻拦，但张飞一声低喝，俯身一扫腿将胡卒打翻，顺手从腰间拔出斫刀劈开一人的额头，白花花的脑浆伴随着血水挤出来，其余胡卒也随之胆怯。
此时晋阳城防已经出现两次缺口，虽然可以说仍有所僵持，但较昨日而言，毫无疑问是形势一片大好，就在这胡卒气沮的时刻，呼衍于勒都急中生智，对身后士卒呼喊说：“将薪柴扔过去！扔过去！”
说话间吕布忽而发现一力士扭身露出甲胄间的空隙，当即将斫刀沿着铁片径直插入进去，待他搅上一手再抽刀拔出，那力士咕噜一声，扑倒在地，伤口中随着膏油鲜血又流出碎裂的肠子，眼看就是不活了。
正兴奋间，于勒都将薪柴运到，几名胡卒往吕布头上齐齐一掷，撞在甲胄上，逼得吕布往后连退三步，他才发现是一根燃烧的梁柱。
城上的薪柴多时用梁柱门板所致，材质不仅牢固耐烧，而且尺寸庞大。吃了这一击，只觉得甲胄发烫，犹豫间，胡卒将薪柴在他面前堆成一堵火墙，吕布本想乘机扩大战果，但薪柴燃烧到处弥漫黄白色的灰烟，不止呛人口鼻，还迷得汉军将士流泪不止。别说前进半步，就连在原地驻守也难以进行。
张飞在南墙也仅能维持两刻攻势，黑山军虽然勉力出兵，但除去少数将领外，大部分士卒连最劣质的狗皮甲也无，只能短褐粗衣，硬顶着箭雨作战，能上城作战者不过十之二三，伤亡巨大且后援难济，即使南墙守军并不多见，张飞也无能为力，无人跟上，他也只能原路后撤。
第二日攻势又陷入了挫折，刘备下令鸣金收兵，但鼓声仍然不停，他换了一批鼓手，对他们说道：“如今虽屡战无功，可只要你等日夜擂鼓，待敌心神俱疲，便是我等克胜之时。”