杨谅看到城头上的军队，心中大怒。

纥单贵冲了两个回合，皆没有击破对方的箭雨。这时赵子开上前进言道：“大王，我军现在只有这两万人马，一旦损耗过多，哪怕攻下了晋阳城，等到黄明远来了，也未必可守？”

杨谅问赵子开计策，赵子开乃建议攻打其它城门。以汉王在晋阳城的威望，必有军队倒戈。

杨谅从计，乃转道西门。西门的守将是开府仪同三司宇文永昌，宇文永昌本来就不是一员骁将，等到杨谅靠近城门，向城上大喊之后，众人纷纷混乱，宇文永昌根本控制不了军队。

这时有人竟然打开城门，迎汉王杨谅入内，宇文永昌带人阻止，竟然被众人围攻，死于乱军之中。

汉王杨谅不费吹灰之力，乃进入晋阳城中。

西门一破，其她诸门也没有能力挽狂澜的能力。汉王叛军纷纷冲入城去，很快便占领了晋阳城，

开府仪同三司盘石侯宿勤武带着亲兵与汉王叛军在晋阳城中展开了巷战，宿勤武虽然勇武，但身边亲兵数少，最后战死于巷战之中。

其他诸人包括皇甫诞、成端、长孙恺、元世雅、皇甫文颢等人纷纷被俘，被献给了杨谅。杨谅对众人早就充满了怨恨，直接让人将成端、长孙恺、元世雅、皇甫文颢等人处死。

杨谅又亲自劝降皇甫诞，希望他能够归顺。毕竟皇甫诞在晋阳城的威望很高，又是名臣，杨谅还不想杀他。

但皇甫诞这次被俘，自知必死，乃破口大骂杨谅无父无君，乃是小人，令其悬崖勒马，早日投降。

杨谅被皇甫诞激怒，竟亲自拔刀杀了皇甫诞。

而城中豆卢毓知道汉王杨谅入城之后，知道汉王对自己的痛恨，自己虽然是其舅兄，但绝无幸免之理。因此豆卢毓乃于家中自缢而死。

长孙恒布在南门抗敌，忽然听到西门失陷的消息，骤然大惊。而其麾下将领，听到汉王入城的消息，也一哄而散，四散逃命。

长孙恒布无奈，乃打开南门，准备南逃。

稽胡人首领白铁干见汉王进城，知道得罪汉王狠了。今日汉王有数万大军，一旦报复，他区区千余人的稽胡兵根本无力阻挡。白铁干为了向杨谅请罪，竟然命人将长孙恒布捉住，献给了杨谅。

杨谅逼长孙恒布投降，长孙恒布不从，也被杨谅所杀。