宁汉分裂后，武汉国民政府将国民军改编为国民革命军第二集团军，任冯玉祥为总司令。冯玉祥在西安就职，随后把所部分为五路向河南进军，第十一师师长佟麟阁为第五路副总司令(司令为石友三)。石、佟率领十一师等部于5月东出潼关，攻占洛阳、孟津。

　　8日，过偃师时，奉军援军至，企图阻其前进。佟麟阁部凭黑石关之险与奉军激战，奉军不支，向孝义退却。佟麟阁即与第三路军汇合追击之。

　　1927年5月30日，占领孝义、郑州。

　　6月1日，占领开封，与北伐军唐生智部会师郑州。尔后在豫、鲁两省与奉、直军继续作战，战无不胜。

　　1928年1月，国民党南京政府再次北伐。佟麟阁任第二集团军第三十五军军长兼第十一师师长。转战于豫、鲁、冀各省，屡立战功。

　　同年，佟麟阁率第十一师进驻甘肃河州，被马仲英包围。马仲英系回族，凭借宗教的有利条件，处处与他为难。他再三考虑，认为动用武力，必然酿成民族争端，于大局不利，因而处处退让，致使第十一师蒙受损失。事后，他为自己姑息马仲英，处置失当，遂引咎辞职。

　　10月，佟麟阁先赴兰州休息，一度解甲归田，回原籍高阳县边家坞村居住，侍奉双亲。

　　再度出山

　　1929年1月，南京国民政府召开整编会议，冯玉祥的第二集团军为第二编遣区辖十二师。佟麟阁重被启用，任整编以后的第十一师师长。

　　佟将军指挥二十九军士兵在卢沟桥上抗击日军

　　1930年中原大战期间，佟麟阁奉冯玉祥之命，在西安建立新一军，任军长兼第二十七师师长，负责召集西北军旧部，招募新兵，积极训练，巩固后方。

　　佟麟阁善于练兵，冯五祥曾称赞“佟善练兵心极细”。他常讲述历代民族英雄的事迹，以培养官兵爱国爱民的精神。

　　在训练和作战时，佟麟阁做到有功必赏，有过必罚。他对于犯错误的官兵，打破西北军的惯例，一向不准肉体惩罚。官兵的问题严重，但没有触及刑律，便责令他们在适当的场合检讨，并提出个人改进措施；凡能认识错误并决心改正的，就不追究；对于官兵的一般错误，主张私下规劝，不再公开批评。

　　1930年中原大战讨蒋失败，他与冯玉祥一同住在峪道河过着隐居生活，每天与冯一起读书练字，探讨军事政治斗争的经验教训，并聆听进步人士和共产党人的讲课。他们有时也上山打猎，过着清闲的生活。

　　1932年8月，宋哲元任察哈尔省主席。佟麟阁受宋的邀请担任察哈尔省警务处长兼领张家口公安局局长。

　　是年5月，冯玉祥通电全国，号召进行武装抗日。在此之前，冯玉祥于1932年10月由山东泰山到张家口找佟麟阁磋商组织同盟军等问题。佟夫人因事先不知，未作准备，问如何接待冯先生。佟麟阁说：“还是照旧用小米面窝头，外加大萝卜咸菜招待他。”冯玉祥吃得很香甜，并夸奖说：“你不愧是我的好部下，做了大官还没丢失农民的本色。”冯玉祥告知此来是决心走武装抗日道路的意图时，佟麟阁极表拥护。从此，他们共同策划，为救亡图存，作积极准备。当冯玉祥与佟麟阁会商组织抗日同盟军时，佟麟阁兴奋地挥笔书写王昌龄的《出塞》诗句：

　　“秦时明月汉时关，万里长征人未还。

　　但使龙城飞将在，不教胡马度阴山。”

　　以示决不准许日本鬼子跨越长城一步。

　　抗日英雄

　　1933年5月23日，日本关东军参谋长小矶国昭向路透社记者发出狂妄叫嚣：“为保卫‘满

　　州国’西境安全，日军有进驻张家口之必要。”察省形势，益行危急，察哈尔省民众抗日同盟军总司令冯玉祥于26日发表抗日通电。

　　同日，佟鳞阁、高树勋等十四名将领在张家口联名通电，响应冯玉祥的号召，参加抗日同盟军。内称：奉读宥电，慷慨陈词，抑郁精神，大为振奋，表示今后愿在冯总司令领导之下，团结民众，武装民众，誓以满腔热血，洒遍疆场，保我河山，收复失地。

　　冯玉祥任命佟麟阁为抗日同盟军第一军军长，仍代理察省主席。第一军辖四个师及一个独立旅，这是支抗日同盟军的基本队伍。在召开的抗日同盟军第一次代表大会上，成立了同盟军军事委员会，选举了委员三十五人，常委十一人，佟麟阁是委员和常委之一。

　　6月20日，佟麟阁、吉鸿昌、方振武等二十六名将领联名通电表示：为民族生存而战斗，应民众要求而奋起，敢对国人一掬肺腑。凡与敌人同一战线者皆为吾仇。并宣布：重整义师，克日北指，克复察省失地，再图还我河山，……四省不复，此心不渝。佟麟阁积极与北路前敌总指挥吉鸿昌，北路前敌总司令方振武等密切配合，并派出第一军的第二师受吉鸿昌指挥，出兵张北，猛烈攻击敌伪军，先后收复康保、宝昌、沽源，又乘胜挺进，7月12日克复多伦。共击毙日军茂木骑兵第四团及伪军李华岑等千余人。抗日同盟军军威大振。佟麟阁在此期间，治军理政，运筹帷幄，筹备军需，安定后方，出版《国民新报》，宣传抗日主张，组织民众武装，担任前方运输，救护伤员，收容难民，殚精竭虑，甚获察省军民的爱戴。

　　对日作战，加上蒋介石、何应钦的军事压迫，使抗日同盟军腹背受敌。察省地瘠民贫，补给也极其困难。冯五祥迫不得已，乃于1933年8月5日发出通电，把收复国土，交渚国人。15日离开张家口。至此，深为日寇所恐惧的察省民众抗日同盟军不幸夭折。

　　撤职退隐

　　抗日同盟军被迫撤销后，宋哲元回察主政。佟麟阁深感抗日之志未遂，而山河破碎

　　抗日英雄佟麟阁战斗过的地方，国运垂危，不胜悲愤，于是退居北平香山寓所，与家人团聚，奉养双亲。寄情于研读圣经、周易，写字、摄影、打猎，以待报国时机。

　　在隐退期间，宋哲元再三敦请佟麟阁出山，负责军事。第二十九军的师长冯治安、赵登禹、张自忠、刘汝明等亦联袂相邀。此时天津大学生和人民群众的抗日救亡运动，在共产党的号召下，日益激昂。佟麟阁感到抗日救国之日到来，于是欣然出山。回任第二十九军副军长兼军事训练团团长(教育长为张寿龄)，还兼大学生军训班主任，住南苑二十九军军部，主持全军事务。整军经武，夙夜匪懈。他曾对人说“中央如下令抗日，麟阁若不身先土卒行，君等可执往天安门前，挖我两眼，割我两耳”。声情激越，闻者热血沸腾。全国有志抗日救国青年，慕将军坚决抗日的声誉，或跋涉千里，或从海外归来，有的就是抗日同盟军的干部和共产党员，都来参加第二十九军，入军事训练团受训。