3月，胡宗南奉命率部开往徐州，途经浦口时，蒋介石特令胡宗南率全旅连长以上军官前往拜谒中山陵，同时，蒋介石亲自召见训话，嘉勉备至。胡宗南很清楚，这特殊的荣耀意味着蒋介石对第2旅、对他本人寄予的厚望。
中原大战开始后，由于第1师师长刘峙兼任第2军团总指挥，副师长徐庭瑶代理师长，而徐庭瑶在陇海路的野鸡岗战斗中负伤，胡宗南便有了出任代师长的机会。
7月下旬，第1师奉命乘火车开往津浦线，当大部分部队开走后，冯玉祥军孙良诚部突然向油菜坊阵地发起猛烈进攻，第2师等部抵挡不及，连连败退，孙部先锋部队眼看就要攻到蒋介石的总司令指挥列车，相距仅仅不到五公里，情况万分危急。当时，胡宗南亲率第5团为第1师转赴津浦线殿后，闻讯后立即指挥第5团下车，投入狙击，力战数小时，终于将孙军击退，使蒋介石安然脱险。
在此后津浦线战场与晋军的战役中，以及在河南战场击退冯军“八月攻势”中，胡宗南的第1师均不负蒋介石厚望，屡建战功。11月中原大战结束后，胡宗南晋升第1师中将师长。