经此一役，杨延昭威震边关，人们都称杨延昭守卫的遂城为”铁遂城”。宋真宗召见了他并询问应边对策，还称赞他“智勇善战，治兵护塞有父风”。
咸平四年，辽军再次大举南下侵扰北宋边境。杨延昭在遂城西北的羊山设下伏兵，自己率少数骑兵引诱辽军，且战且退。至羊山下，伏兵四起，杨延昭与之夹击辽军，并斩杀辽国大将。这一战宋军大获全胜，尽歼辽军。这就是历史上著名的“羊山之伏”，当地百姓为纪念这一大捷，改“羊山”为“杨山”，杨延昭因功被加封为莫州团练使。他和当时另一位边防骁将杨嗣并称为“二杨”。
宋真宗景德元年（1004年），辽圣宗、萧太后再次率兵大举南侵，一直打到北宋腹地澶州。宰相寇准和杨延昭等将领，力主抵抗。杨延昭还上书建议，乘辽兵大举南下之际，出兵取幽、易等州，但是软弱的宋真宗根本没有挫败辽军的信心，没有采纳杨延昭的建议，而是与辽国签订了屈辱的“澶渊之盟”。对此，杨延昭深以为国耻，拒绝接受朝廷“勿伤北朝人骑、勿追契丹”之命，不断痛歼辽军游骑，并且独率所部万余骑，深入辽境，消灭了大量敌军，并一举收复重镇古城（今山西广灵西南）。
河北《南皮县志》还记载了“杨六郎摆牦牛阵”的奇事。一次，杨延昭为抵御来犯的辽军，秘密派人收购了一万多头牦牛。其后，他又下令扎了无数穿戴辽兵服装的草人，草人腹中装上饲料，然后引诱牦牛用牛角上所绑之刀挑开草人腹部吃料。如此训练百余日，众牦牛见到穿辽兵服装的人便猛用角挑。杨延昭觉得时机成熟，便下令将牛饿上三天三夜，然后派人去辽营挑战。待辽兵追来，将万牛放出，牦牛冲入敌阵，见人就挑，辽兵死伤无数，宋军大获全胜。此阵得名“牦牛阵”。据说杨六郎用牦牛阵抵御辽兵的地点在南皮县的凤翔乡万牛张村。1958年时，当地人曾在村前挖出喂牛的石槽、锅台、饮牛大缸等物。
景德二年（1005年），杨延昭升任莫州防御使，并出任保州知州兼沿边都巡检使，后又任高阳关路副都部署，主持河北一线的边防。杨延昭从此成为河北前沿的总帅，统兵数万，防守天津至太行山下一线的边防。高阳关、益津关、瓦桥关是河北边防的重要关口（至今河北民间小调《小放牛》中仍有“杨六郎把守三关口”的词句），都在杨延昭的管区之内。他屡次打退了辽兵的骚扰。
杨延昭不但智勇善战，而且能与士卒同甘苦。他“不问家事”，不仅将所得的薪俸都犒赏了部下，而且遇敌必身先士卒而不居功，深受士卒爱戴。杨延昭前后守卫边境20多年，1014年正月初七，他在边疆要塞去世，卒年57岁。杨延昭镇守河北边防十五六年期间，辽兵侵扰较少，老百姓过着比较安定的生活。故此，老百姓十分爱戴他。当杨延昭的灵柩运离时，送行的人民“多望棺而泣”，就连敌方辽国人也举哀致敬。民间相信他是“六郎星”重返天庭，因此立祠纪念他。
史载杨延昭有三个儿子：杨传永、杨德政、杨文广。最有名的是杨文广，他同祖父和父亲一样，有超常的军事谋略与才能。但因为朝廷对辽采取软弱国策，他的才能无法得到施展。后来杨文广终于有机会镇守宋辽边关，到任后他日夜厉兵秣马，时刻准备收复幽燕，并不断向朝廷献上阵图以@黄色小说 .shubao2./class12/1.html及攻取幽燕的策略。可惜的是，还没等到朝廷上的回音，杨文广就病死在任上，“出师未捷身先死，长使英雄泪满襟”。</p>