南京国民政府建立后，中国政局虽然处于动荡之中，但无论风云如何变幻，胡宗南一直死心塌地地追随蒋介石。在国民党内各派系混战时，胡宗南唯蒋介石马首是瞻，南征北战，为维护蒋介石的统治地位立下汗马功劳。特别是在190年的中原大战中，在油菜坊的蒋介石的总司令指挥列车被冯玉祥军孙良诚部围困，中央军张治中部等抵挡不住，先后溃退，形势危如累卵。在千钧一发之际，胡宗南率部殊死抵抗，顽强狙击，缴战数小时，终将孙良诚军击退。胡宗南经此战也声名大振，成为中央军蒋介石麾下著名的青年将领。何应钦评价说：“中原事起，宗南弟率第一师转战津浦、陇海两线。油菜坊一役，尤著声威。”中原大战结束后，胡宗南被提升为第一师中将师长。第一师，是蒋介石起家的部队，号称“天下第一师”，因此第一师的编制、装备及其师长地位明显要优于其他各师，胡宗南声望如日中天。此时，他才4岁，真是意气风发、前程似锦。许多黄埔军校的毕业生，纷纷投奔胡宗南，胡宗南俨然成为黄埔军校学员的首领。后来，胡宗南指挥大军进攻陕北，他们中的许多人就是胡宗南的得力干将。
“功成名就”的胡宗南，在治军上也有一定建树。为激励官兵建立战功，胡宗南规定：排长没打过两次仗的不能升连长，没打过一次胜仗的不能升团长；团长没当满两年的不能升旅长。这项制度对调动各级军官的积极性、培养指挥人才、鼓舞部队士气起到了一定的作用。胡宗南注重官兵关系，他本人生活俭朴，严于律己，衣着与士兵相同，常常与士兵一同吃饭，一同娱乐，还常常找官兵谈心。他能叫出许多下级军官与士兵的姓名。他还制定了优待伤残官兵的制度。对于伤残官兵，年年抚恤，还专门成立了“第一师伤残官兵年会”，简称“伤兵年会”，每年5月开会一次，由师部招待与会的第一师伤残官兵食宿娱乐，发给全年薪饷之半及来回路费，其子弟优秀者由第一师资助入学。胡宗南的这些措施，赢得了部属的好评，对于凝聚军心、振奋士气也有一些效果。
19年，胡宗南追随蒋介石，参加对鄂豫皖苏区的第四次“围剿”。在河口战役中，胡宗南率部与工农红军第四方面军激战，给红四方面军造成很大伤亡。红十一师政委甘济时与红二十五军军长蔡申熙先后阵亡，红四方面军被迫向黄柴畈转移。胡宗南又率部紧追不舍，与国民党其他部队夹击红军，红军主力被迫突围西去，越过平汉铁路向鄂西北地区转移，后转移到陕西关中地区。胡宗南也率部尾追到关中地区。红军进入汉中，胡宗南也率部进入汉中。
为防范和削弱杨虎城，胡宗南奉蒋介石之命，率部进入甘肃，成为进驻大西北的第一支国民党中央军。其师部所在地为甘肃的天水，古称泰州，地处甘、陕、川三省交通要道，为大西北的心脏地区。胡宗南大喜过望，经营大西北是他多年的夙愿。大西北西邻中亚，北接蒙古，东临华北与中原，南连西南与华中，战略地位极其重要，一向被称为“用兵之地”，受到历代有所为的政治家与军事家们的高度关注。胡宗南渴望能像汉代张良、三国时诸葛亮、清代左宗棠那样，在西北建功立业，名垂青史。
在国民党高级将领中，胡宗南算是头脑比较清醒的一个。他知道自己的弱点在哪，能抓重点。他像他的大多数属下一样，既不出生在西北，也没有在西北生活、作战的经验，无疑这是他经营西北的一大弱点。他要求属下们用心了解西北、研究西北，他自己以身作则，带头到各地察看，与各界人士交流，广泛了解和研究西北各地的人事、军事、地理、风土人情、少数民族的风俗习惯和宗教信仰等，制定不同的政策，严格约束部队。他的部队在一个地方驻扎之后，就会在当地的大街小巷上，到处张贴标语：“第一师为解放西北民众痛苦而来！”“第一师不拉夫！不征粮，不派饷！现钱买卖，公平交易！”等等。官兵即使在外露营，也不许私自踏入民房一步。官兵们有时还帮助居民打扫街道、修桥铺路、防疫治病等。这些做法，赢得了当地老百姓的一些称赞。
胡宗南还根据西北特殊的地形特点进行有针对性的军事训练，提高官兵适应西北高原山地的能力，在提高部队素质与战斗力上的确收到了一些成效。胡宗南在甘肃天水设立“中央军校西北军官训练班”，还开设俄文、藏文班，可以说是别出心裁。劝禁鸦片，发展交通，修建水利，修复古迹，改良社会风气，发展文化，协助地方改革，胡宗南在这些方面也下了许多功夫，取得了一些成绩。
中央红军开始长征，与红四方面军会师后，胡宗南竟然判断出我军的战略企图。他说：“共产党为什么放弃在江西多年的根据地到处流窜呢？就是因为共产党没有苏联的援助，根据地也保不住。共产党只有移到新疆或外蒙附近，才能取得苏联的物质援助。”因此，他认为自己的主要任务是防堵红军北上或西进。他指挥部队先于红军占领了松潘，红军数次强攻松潘不下，被迫改走茫茫草地，付出了巨大的牺牲。
胡宗南“追剿”红军的“业绩”让蒋介石对其刮目相看，特别是胡宗南执行蒋介石指示的雷厉风行，更讨得蒋介石的欢心。根据蒋介石的旨意，195年11月,国民党在南京召开第五次全国代表大会，选举胡宗南为中央监察委员会委员，进一步提高了胡宗南的政治地位。从此，胡宗南由军界走入政界，由地方步入中央，迎来人生一个新的发展高度。
196年8月，蒋介石在广州主持召开军事会议。胡宗南出席会议，在发言中慷慨陈词，反对绝大多数人“红军北上纯属战败流窜”的观点，认为红军北上是为了转移到甘、青、宁、新一带，打通国际路线，取得苏联援助，积蓄力量，以待时机再反攻。当时，中共中央领导红军北上，确有这种考虑。胡宗南发言有根有据，与会人员无不佩服称赞，蒋介石连连点头称许，几乎达到六马仰秣的程度。广州会议后，蒋介石宣布，胡宗南部第一师扩编为第一军，胡宗南升任第一军中将军长。胡宗南是黄埔军校毕业生中第一个升任军长之人，而且是蒋介石赖以起家的“天下第一军”的军长，可见胡宗南在蒋介石心中的地位有多么重要！（未完待续）