，广州革命政府誓师北伐。杜聿明南下归队。历尽千辛万苦到达南京，不幸被孙传芳的稽查队抓获，关南京老虎桥监狱。随后越狱逃到武汉，去见邓演达。去武昌南湖学兵团找黄埔军校武汉分校学兵团团长张治中。随后杜聿明在张治中学生兵团任第一营第三连中校连长。

1928年夏，张治中考察回国，任中央陆军军官学校训练主任，令杜为该校杭州预科大队第二中队中校队长；次年初，杜回南京军校任第七期第四队中校队长；同年冬又任新编第一师第二旅参谋主任。1930年初，蒋介石成立教导第二师，张治中任师长，杜聿明任该师第二旅第五团一营中校营长，不久升为该师第六团上校团长。

1932年初，徐瑶的第四师奉命开赴皖北参加大别山“围剿”红军，在霍丘被红军邝继勋击败。在关键时刻，徐令第二十四团全力反攻，杜聿明率穿，突霍丘，使红军损失重大。徐瑶为他记首功，并上报晋升杜为少将团长。这年冬，徐升任第十七军军长，杜聿明被委为该军第二十五师第七十三旅旅长，不久升为该师副师长。

1936年，杜聿明从中央军校级教育班毕业。杜本应返第二十五师供职，但由于和师长关麟征相不甚和谐，不太愿回去。徐瑶即向蒋介石保荐他到新成立的南京陆军辎学校担任学员队队长，负责培训指挥机械化队作战的军官。10月5日授予少将军衔。

1937年，辎学校战车营、通兵第二团所属装甲汽车队合编，并补充一批战车，建成国民党军第一个陆军装甲兵团，杜聿明委为第一任团长。“八·一三”淞沪抗战时，杜率领装甲兵团第一营的二、四两连，在上海汇山码协同步兵阻击企图登岸的岛**。

1938年12月，第二百师扩编成新编第十一军，从湖南湘潭移驻广西全州，杜聿明委为副军长。不久，番号又改为第五军，杜升任军长。该军是国民党政府在抗*战争初期成立的唯一机械化新军。杜提：“场就是战场”，“平时多汗，战时少血”，要求新军有“五除”（除骄、惰、伪、、恶）、“三习”（习、诚、勤）的朝气。

抗*战争，1938年，装甲兵团撤至湖南湘潭整训，不久该兵团扩编为第200师，以杜聿明为师长。长沙大火后，国民党长沙市警察局人员与放火队员，又来到湘潭城下，火烧湘潭城。杜聿明得知后，当面怒斥了这惊慌失措，草菅人命的法，随派员收缴了放火队的械，把放火的人行控制看，并张贴布告，严禁放火焚烧湘潭县城，这才使湘潭城池数十万人的生命和财产得以保全。事后，湘潭万民同声称颂，激杜聿明与二百师的救城之恩。

1939年12月18日拂晓，反攻开始。在战车、炮火掩护下，杜聿明第五军对昆仑关守敌行了猛烈的攻击。安澜师与日寇展开白刃战，首先占领了仙女山。当晚各乘胜行夜袭，相继占领了老岭、万福村、441地，最后占领了昆仑关。杜聿明在此期间，采取“要式攻击法”，逐步缩小包围圈，一一地吃掉敌人。杜聿明命令第二百师副师长彭璧生率从公路左侧越过昆仑关，形成包围之势；邱清泉师把战车埋伏在公路两旁的丛林地带；郑国师则加右翼攻势，再度昆仑关内敌军纵阵地，把敌指挥及炮兵阵地摧毁。战斗整整打了十八天，于31日以中**队获重大胜利而告结束，史称昆仑关大捷。

1925年，调到宣传队参加东征讨伐陈炯明。1926年7月加张治中黄埔军校武汉分校学兵团，任中尉连长。1927年四一二政变，因不明确表示反蒋，被武汉国民政府囚禁，后来他设法越狱逃到南京，通过张治中见到蒋介石，被任命为总司令训练的校阅委员会中校委员。

1928年夏，任南京陆军军官学校杭州预科大队第2中队中校队长。同年冬，任新编第1师第2旅参谋主任1929年任南京中央军校第7期第4队中校队长，后任教导第2师中校营长。1932年冬，任第25师副师长。1933年秋，南京中央军校等教育班第一期修。1936年教班毕业，协助徐瑶创办南京陆军辎学校，培训指挥机械化队作战的军官。