赵光义问道：“朕如果现在北征，卿以为能否成功？”曹彬答道：“以国家的精兵，剪除北汉这个孤垒，简直就像摧枯拉朽，为什么不可以呢？”赵光义于是决意征讨北汉。他任命潘美为北路招讨使，率领崔彦进、李汉琼、刘遇、曹翰、米信、田重进等人，分四路进兵，进攻太原。同时又任命邢州判官郭进为太原石岭关都部署，率军阻拦可能来自燕、蓟的援军。
北汉主刘继元听说宋师大举入侵，急忙派遣使者向辽国求救。之前在开宝八年的时候，辽国曾经派遣使者到汴梁，表示愿意双方和好，赵匡胤也回书答应。辽国接到刘继元的求救信之后，派遣出使者到汴梁，觐见赵光义，询问伐汉的情由。
赵光义说道：“河东抗拒王命，理应问罪。如果你们不去救援他们，那么我们之间的和约如故。否则的话，我们只有开战了。”辽国使者只得悻悻回去。赵光义估计辽国必定会去援助北汉，恐怕双方会有大战。于是他下诏亲征，以鼓舞士气。
赵光义当即想命齐王赵廷美职掌留务，赵廷美倒也愿意。但是开封判官吕端，对赵廷美说道：“主上栉风沐雨，以征伐不义来表明天意，大王您处于近亲且有贤名之位，应当首先跟随护卫。现在由您主持留务事务，这不是您应该做的。”赵廷美于是向赵光义恳请随行。
吕端字易直，是幽州安次人。其祖吕兖曾在沧州节度使刘守文下做判官，其父吕琦官至后晋兵部侍郎。吕端少年时，聪敏好学，最初以其父的官位荫补千牛备身。他历任国子主簿、太仆寺丞、秘书郎、直弘文馆，又转任著作佐郎、直史馆。赵匡胤篡位之后，吕端任太常丞、知浚仪县。吕端为政清廉俭约，远方之人得以安宁。吕端有一次，渡海出使高丽。风暴折断了船的桅杆，船上的人都非常害怕，只有吕端仍在读书，就像在斋阁时一样。赵廷美任开封尹时，吕端充任开封府判官。
赵光义同意了赵廷美的请求，于是改命沈伦为东京留守，王仁赡为大内都部署，自己率领赵廷美等人北征。到了镇州的时候，接着到了郭进捷报，称已经将辽兵击退石岭关外，可以无忧了。
原来辽主得到使者的回报，于是派遣宰相耶律沙为都统、冀王敌烈为监军，领兵南下救援北汉。辽军走到白马岭，远远看见宋军阻住在前面，有好几军营扎住在那里。耶律沙对敌烈说道：“前面有宋军扼守关隘，不宜轻易进兵。我军不如阻涧为营，禀报主子，再乞求添兵接应，确保万无一失。”
敌烈说道：“丞相也太胆小惧怕了。我看前面的宋军，最多不过一万人，我兵与他们相比，人数相等，何不趁着锐气，杀了过去？丞相如果担心有危险，尽可在后面押阵，看我上前踏平宋营。”
耶律沙说道：“我并非胆怯，只是出兵打仗，总是须小心为好。”敌烈不从，耶律沙连忙派遣将校，返回禀告辽主，同时跟随敌烈前行。走了一里多路，就到了一条涧边。敌烈自恃骁勇，率先渡过，部兵也跟着过涧。辽兵三五成
群，毫无顺序。
正在此时，突然听得一声炮响，宋军从营内冲了出来，直奔辽兵。辽兵还没有列阵，宋军却突然杀到。辽兵吓得手忙脚乱，胆落魂销。敌烈却不管死活，还是向前乱闯冲。凑巧他碰到了郭进，两马相交，两人交战到三四十合，被郭进卖个破绽，手起刀落，敌烈被劈落马下。
此时耶律沙还没有渡涧，正想上前救应。那些辽兵却已经逃过涧来，反而冲动了耶律沙军阵脚。宋军又乘胜追击，尽行渡涧，追杀耶律沙军。耶律沙无法抵挡，只好策马而逃。辽兵只怕逃得不快，要吃宋军的刀头。宋军毫不容情，见一个，杀一个。郭进下令全军，必须要擒住耶律沙，才能收军。
宋军将士得令，自然奋力追赶。正在此时，斜刺里杀出一支人马，来救辽兵，截住了宋军，原来是辽将耶律斜轸。他是奉了辽主的命令，前来接应。途次中他遇了耶律沙派出的使者，得知辽军危急，便从小道疾奔而来。他一到，就遇到耶律沙败北。正好仗着这一支生力军，救应耶律沙，抵敌宋军。郭进见辽兵得救，就勒住马，停止了追击，整队返回。耶律沙也引兵退去，两军休战。
郭进回到石岭关，急忙上奏报捷。赵光义更加放心，于是从镇州出发，进逼太原。此时，北路招讨使潘美等人已屡次打败北汉军队，直抵太原城下。潘美下令宋军筑起长长的围墙，四面攻打。宋军从春天到夏天，一直进攻不停。
太原城内还指望着辽军来援，可是过了许多日子，一点消息也没有。刘继元于是又派人从小道赶赴辽国，带着蜡丸帛书，催促辽军援助。哪知辽兵早已被郭进击退，所派出来的使者又被郭进抓住，被斩首示众。
刘继元得到消息，自然大惧，以至于寝食不安。亏得建雄军节度使刘继业，进城相助防守，昼夜不懈，才得以苟延喘息。
赵光义来到之后，他亲自督催将士，猛力攻打，毁坏了无数城垛。刘继业冒险修复，总算堵住了缺口。赵光义见急切之间，不能攻克城池，于是亲自写下诏书，劝刘继元出出城投降。但是太原城的守兵不肯接受，刘继元也无从知道。
赵光义于是再度下令攻城，城上矢石如雨，击退了宋军。马军都军头辅超勃然大怒，大叫道：“偌大一个城池，就有这般难攻吗？如果真有壮士，就随我来，好登城立功！”话音刚落，就有铁骑军呼延赞等人踊跃而出，随着辅超，登梯而上。
这呼延赞是并州太原人，也是著名的呼家将之首。呼延赞年轻的时候地位低微，只是军队中的骁骑卒，赵匡胤却独具慧眼，认为呼延赞具备勇将之材，于是把他升为骁雄军使。呼延赞跟从王全斌讨伐西川时，担任前锋。他数度受伤，因功升任副指挥使。赵光义登基后，呼延赞被擢升为铁骑军指挥使。
再说辅超攀爬运梯，想登上城头，却被刘继业看见。刘继业于是急命长枪手直刺辅超，辅超用刀格斗，不肯退步。可是双手不敌四
拳，被刺伤了好几处，不得已退了下来。解开铠甲一看，身上竟然受伤的地方有十三处之多，血迹模糊。
赵光义嘉他忠勇，面赐锦袍银带，并令他去后营休息。辅超还是不肯休，依然声称第二天早上要攻入城中，虽死无恨。到了次日早上，他果然一马跃出，又去攻城。云梯刚一架好，他已经身中八箭。于是他左手执盾，右手执刀，还想冒死直上。
赵光义听说，急忙传令辅超回营。赵光义于是禁止将士登梯攻城，只是命令一万名弓弩手，排列在阵前，疯狂放箭。顿时城上被箭射得犹如刺猬，很多羽箭被城中居民收去。
刘继元便用十钱的价格，向居民购买，约得了数百万支，又射回给宋军。北汉军队又支持了一个多月，此时外援没有来，饷道又被断绝。赵光义经常派士卒把招降书射入城中，招降将士。城中宣徽使范超于是偷偷出城投降，宋军怀疑他是奸细，也不加细问，将他一刀两段。
刘继元听说范超投降了宋军，就把范超妻小，一一杀死，把首级丢到城下。赵光义听说范超枉死，又得到他妻小的首级，不禁悲愤，命令将士用棺材好好收敛了他，并亲自去赐祭。城内的守将看见，又被感动了起来。城内的指挥使郭万超又密令军士出城约降，赵光义对他折箭为誓，答应决不加害。郭万超于是偷偷出城，投奔宋营，赵光义也格外优待他。自此以后，刘继元帐下的卫士，多半出降。赵光义又草诏给刘继元，劝他投降。
这诏书被带到城下，城中总算派人接待使者。刘继元读完诏书，沈吟半晌，才对宋使说道：“蒙宋天子优礼，谨当遵旨！”宋使出城回报。但是过了大半日，还是没有刘继元出降消息。宋军愤不可遏，又拼命攻城。赵光义又告诫将士，只说是：“城池一旦被攻陷，必然伤害百姓。不如再等待一日，如果明日他们还不投降，当即破城。”于是宋军退回。
当夜，刘继元遣客省使李勋奉表请求投降。赵光义赐刚李勋袭衣金带，银鞍勒马。同时派遣通事舍人薛文宝，和李勋一起进城，吓诏慰谕刘继元。
次日黎明，赵光义来到城北，亲自登上城台，张乐设宴。刘继元率领官属出城，缟衣纱帽，在台下等待赵光义发落。赵光义传旨特赦，封刘继元为检校太师右卫上将军，授爵彭城郡公，赏赐甚厚，刘继元叩头谢恩。
赵光义命刘继元带着宋军入城，偏偏此时城上站着一位金甲大将，高声喊道：“就算主子投降了，我却不降，愿与宋军拼个死活。”宋军抬头一看，那大将不是别人，正是北汉节度使刘继业。宋军于是急忙禀告赵光义，赵光义喜爱刘继业的忠勇，很想召为己用，于是令刘继元好言抚慰。
刘继元派遣亲信入城，对刘继元说明不得已的苦衷，劝他屈志出降，以保全百姓为好。刘继业大哭一场，这才开城迎入宋军。赵光义进城后，召见刘继业，加封他为右领军卫大将军，并加厚赐，令刘恢复原来的姓名，也就是有名的杨继业杨令公。