第五军作为国民革命军第一个，也是唯一一个机械化军，其下辖第200师，也是中国近代史上第一个机械化师。1933年，在长城抗战中，中国军队以血肉之躯抗击日寇步，炮，空，坦多兵种联合进攻，付出了惨重的代价。为此，国民党军界要求建立中国的机械化部队的呼声空前高涨。于是，国民政府派出参加过长城抗战的第十七军军长徐庭瑶中将率领军事代表团到英、美、德等国考察军队现代化装备，筹备扩充坦克部队，并组建装甲兵学校。1933年6月，国民政府从英国购买了维克斯轻型坦克32辆，在原有教导一师战车队的基础上扩编，于1934年11月成立了国民政府军事委员会直属战车营，1935年国民党成立交通兵学校（机械化学校），杜聿明任学校学员队少将队长。1936年3月,为培养机械化部队人才，国民政府正式成立了陆军交辎学校.1937年5月，国民政府军委会、军训部决定将交辎学校、交通部第二团所属的装甲汽车队合并，在南京方山成立中国第一个陆军装甲兵团。杜聿明被任命为第一个陆军装甲兵团的第一任团长，由军政部直接指挥。1938年1月，军委会命令将装甲兵团扩编为陆军第200师，由军事委员会直接指挥。第200师（五团制，20000余人），该师为我国第一个机械化师师长杜聿明，副师长邱清泉，参谋长廖耀湘。200师是第一支机械化师，这支部队是当时远征军装备最好的，需要一个学过机械化的人任参谋长，军政部长何应钦遍查留学生学历，发现廖耀湘学过机械化骑兵，便任命其为该师少将参谋长。廖耀湘，1906年4月12日生于湖南邵阳县北乡酿溪镇土桥村，黄埔军校第六期毕业。当时国民政府雄心勃勃要打造一支现代军队，从中央军校里选拔一批优秀毕业生去法国留学，廖耀湘参加了1930年的留学考试，成绩列前三甲。可是最终确定名额时，他被刷下来了，理由是他个子矮，其貌不扬。在这关键时刻，廖耀湘演了一出“闯宫面圣”，直接去找蒋介石，当着蒋介石，他大呼留法生录取不公，一千人参加考试，录四十四名，自己笔试在前三名，却名落孙山，考官的理由是他个子矮，脸上有个疤。他直率地对蒋介石说：这是选拔留法军官，又不是选女婿，相貌用得着那样重要？拿破仑的个子不也很矮？老蒋很欣赏这种初生牛犊不怕虎的性格，遂决定特批他去法国留学，临别前勉励一番。在法国期间，廖耀湘先毕业于圣西尔军校，后入机械化骑兵学校深造。1936年，国民政府派军事理论家蒋百里考核派往各国的留学生情况。蒋驻法期间，召见廖耀湘，面试其军事理论知识，对答如流。蒋又查看他平时所做的笔记及作文，极以嘉许。从此，他们时相过从，切磋学术，探讨战争理论。蒋百里回国向蒋介石汇报考察情况时，极言廖耀湘之学识才智及其刻苦学习情状。蒋介石听之大喜，谓廖耀湘是他亲自点名赴法的得意门生。
1936年，廖耀湘学成归国，任中央军校教导总队骑兵队第三连少校连长，军士营学兵连连长。1937年“七七卢沟桥事变”爆发后，廖耀湘先后担任教导总队军士营营长、第二旅中校参谋主任等职。12月，参加南京保卫战。1938年1月，廖耀湘根据南京保卫战之经验，向蒋介石上书《远征军今后建军应有之改进》的条陈，受到蒋介石器重，被提升为少将，并被任命为新成立的中国第一支机械化部队——陆军第200师参谋主任。1938年3月，廖耀湘被破格提拔为200师少将参谋长。当年9月，200师在湖南湘乡扩充为国民革命军新11军，旋改为第五军，廖耀湘任该军所辖新22师副师长兼军干训班主任。廖耀湘深得军长杜聿明的信任，主要负责整训部队的具体工作。无论大小演习，他都能精心指导，课堂讲授，边讲边写，边画战术作业图，语言生动，讲解精辟，深得广大官兵敬佩。操场训练，自团、营、连、排、班教练至单兵动作，均能详细讲解示范。有一次他下连队视察，在观看实弹射击时，发现有一个班成绩很差。他询问原因，得到的答复是武器太差，不好使，影响射击成绩。廖耀湘也不多言，当即接过枪亲自射击，结果三发三中，全场顿时肃然起敬，暗自称奇。该班全体士兵惭愧之下，只有苦练枪法。在广西界首的一个月演习中，他将自己编著的《浔江上游游击战术》、《小部队战术》等军事书，分发给广大官兵研读。他尤其重视对各级作战骨干的培训和部队的战斗精神教育、军容风纪的整饬。第五军经廖耀湘几个月的整训，面貌焕然一新，军事技术过硬，纪律作风严明，战斗力水平大幅度提高。1939年3月，经国民党军事委员会校阅评定:“第五军居西南各军第一”。1938年10月，第200师在湖南省湘潭县扩编成装甲军，1939年6月，杜聿明升任第五军军长后，调任第89师副师长戴安澜继任该师师长。第89师只是一个常规师，戴安澜也只是一个黄埔军校三期毕业，默默无闻的副师长，200师中人才济济，任职师长级都是海外名校留学的高材生，或是军长级的资深将军，名不见经传的戴安澜何以能进入王牌军任王牌师师长一职呢？不明就里的官兵们议论纷纷。戴安澜，安徽省无为县人，戴安澜族叔祖戴端甫和徐庭瑶同为保定军官学校第3期毕业生（同期同学张治中、白崇禧、蔡廷锴等），徐庭瑶毕业后在部队不得志，遂回乡做小学教员