到了辽阳县城附近，孙德胜派出了一个骑兵排，绕过县城，到县城的北门附近埋伏。
为防止日伪军逃出县城，他和刘铁山带着主力部队来到了县城东门的附近，然后埋伏了起来。
在辽阳县城里现在只剩下了日伪军的少量留守部队，他们也加强了戒备。由于兵力不足，就连宪兵队的宪兵和县城里的伪警察也都派到了城墙上进行防守。
在县城的南城门楼上，日军的哨兵听到远处传来了枪声，不久以后就看到了十几名日军官兵正朝着县城方向跑了过来，在他们身后有四五十名身穿八路军军服的人正在追赶他们。那些日军的官兵们一边跑一边回头射击，身后的八路军也一边放枪一边追赶，双方都有人中弹倒下。
日军的官兵们朝着南门跑了过来，城里的日伪军准备打开城门放这些日军官兵进城，同时开枪阻挡追逐着他们的八路军。
几名日伪军跑下了城楼，正要去打开城门，放那些日军进城。
就在这时，日军的宪兵队队长听到枪声后赶了过来，看到士兵们正要开城门，急忙询问外面的情况。
这家伙心眼儿很多，听完了汇报之后，觉得有些可疑。明明城里的日伪军的主力已经去攻击八路军了，这又是从哪里冒出来的一群日军官兵？还有追踪他们的八路军。
他担心有诈，不让日伪军打开城门，而是隔着城门向外面喊话，想先弄清楚这些日军士兵的身份再说。
这些日军士兵正是游击队员们化装的，他们想用这个办法来骗开城门。没想到城里的鬼子这么狡猾，竟然不肯上当。
不过这也是在他们的预案当中。听到城里的鬼子喊话，查验他们的身份，他们用流利的日语进行回复，然后在城门上放上了早已准备好的炸药包，迅速跑出了城门洞，紧贴着墙根。
只听“轰”的一声巨响，城门被炸成碎片，刚才问话的日军宪兵队长和一些日军被炸得粉身碎骨。
特战队员们立刻冲进了城门洞，接着就冲进了城里。他们留下两个人守住城门，其他人沿着楼梯冲上了城门楼，消灭了城门楼上的日伪军哨兵，接着就用火力阻止周围的日伪军向城门靠近。城外的那些八路军趁机也冲进了城里。
刘铁山和孙德胜一直用望远镜观察着城门那里的情况，看到八路军的官兵们冲了进去，就命令部队全体上马，很快就冲进了城里。
两支骑兵队伍兵力共有200人，全都是身经百战的老战士，战斗力极强。
城里的日伪军基本上是没有什么战斗力的后勤人员，哪里是他们的对手？再加上他们也不知道游击队和八路军到底来了多少人，惊慌失措，根本组织不起有效的抵抗来。
当他们看到敌人是从南门进来的，于是纷纷逃出了北门。他们出城后，就看到了前方出现了八路军的骑兵部队。他们很清楚自己根本就跑不过这些骑兵，于是又纷纷跑回了城里。
游击队员和八路军队官兵们看到城里的日军就发起攻击，见到伪军和伪警察就命令他们交枪投降，不久以后就控制了全城。
等到梁二虎带着游击队赶到辽阳县城的时候，就看到刘铁山正笑嘻嘻地站在城门口迎接他们。