该师前身为国民政府军事委员会直属战车营（营长彭克定）。1936年1月，该营改归交辎学校指挥。1937年3月，该营与交通兵第2团装甲汽车队改编为装甲兵团（团长杜聿明），由军政部直接指挥。

　1938年1月，该团于湖南湘潭扩编为第200师（五团制，20000余人），以原团长杜聿明担任该师首任师长。该师为我国第一个机械化师，由军事委员会直接指挥。4月，该师在上高与第20军团开展联合军事演戏，以测试对机械化部队的运用。5月，该师抽调战车营、工兵营、装甲汽车队、高射炮队、摩托搜索队、战防炮营、步兵营各一，组成突击军第1纵队，由副师长邱清泉率领北上开赴兰封与日军作战。是月下旬，该纵队在贵李寨、罗王寨、三义寨等地初露锋芒，配合友军击退日军土肥原师团，收复圈头水口、三义寨等地。6月，该纵队转移开封。既而移驻郑州。9月在信阳配合友军作战。此后该部开赴陕西由第1军指挥，脱离第200师建制。11月，该师扩编为新编第11军。师长杜聿明升任新11军副军长，以第89师副师长戴安澜继任师长。改编后该师开赴广西全州整训。

　1939年3月，该师开赴广西界首参加全国军队校阅，第5军名列第一，该师为第5军第二名。9月，该师拟开赴湖南衡山，拟参加第一次长沙会战。该师抵达后会战已经结束，乃就地待命并接受第9战区司令长官检阅。11月，该师作为第二期整训部队，接受第9战区前敌总司令罗卓英督练。是月中旬，日军在广西钦州湾登陆，该师紧急车运南宁，配合友军第135师协同守备南宁城郊。12月中旬，日军第5师团骑兵第5联队、第21联队一部占领昆仑关，该师奉命集结于三塘参与对昆仑关的反击作战。当荣誉第1师因伤亡惨重退出战场后，该师接替任务，在坦克的协同下继续攻击昆仑关。是月下旬，该师将日军分割包围，并断绝日军补给线。随后在友军荣1师、新22师、第159师的配合下对昆仑关发起总攻，与日军三次争夺昆仑关，终于在本年的最后一天完全收复昆仑关。是役，第600团团长邵一之在攻击二塘附近日军阵地时不幸阵亡。

　1940年1月初，该师在昆仑关经过短暂休整后继续加入对昆仑关附近之八塘的进攻。但是因日军增加守备力量，该师经过7天的连续冲锋，最后因部队损失惨重，被迫将防务交由第36军接替，该师后撤整补。4月，该师因在昆仑关的所受损失过重（兵员损失近三分之二），开赴湖南祁阳接受新兵开始长时期的整补。

　1941年6月，该师移驻贵州安顺。12月，移防云南保山。

　1942年3月初，该师附军属骑兵团、工兵一个营入缅支持英军作战，接替英军在同古（又称东吁）的防务。是月下旬，该师在同古以北与日军第55师团发生战斗。经过三昼夜激战，数次击退日军第55师团112联队的进攻，但是自身也为日军第112联队包围，联络补给均告中断。在友军新22师、第96师解围失败后，该师最终奉命突围，其余奉命掩护撤退之部队最后皆奋战殉国。第200师在同古坚守12天，迫使日军第112联队停止进攻，等待第56师团的增援。同时，该师成功掩护友军英缅军第1师一部逃出日军包围圈。4月下旬，该师奉命进攻东枝，经3天激战，击退日军第113联队，收复东枝。随后该师向雷列姆以北攻击前进。不久东枝再次为日军攻克，孟瑙也随之失陷。第200师此时奉命以一部攻击腊戎当面之日军，并以一部固守腊戎，掩护第5军、第6军向我国云南撤退。5月上旬，该师向八莫、南坎撤退，途中与第5军补训处回合，并沿途收容第6军、第66军散兵1000余人。在该师穿越昔卜、摩谷公路时，遭到日军第56师团伏击，部队被打散，团长柳树人阵亡，师长戴安澜在负重伤后为参谋长周之再救出。6月中旬，该师残部经过艰难的撤退终于抵达云南永平（第200师入缅之役损失5000余人）。师长戴安澜在撤退途中因伤重无法救治而亡，以副师长高吉人继任师长。该师在遭受昆仑关、缅甸两次重创后，骨干大量损失，此后该师移驻昆明近郊——马街，开始了长期编练，部队官兵扩编至12000余人。

　1944年8月，为策应驻印军对日军的反攻，该师开赴保山集结，随后康复前线协助友军作战。9月初，该师加入对于龙陵的战斗。由于该师初到战场，未明前线形势，陡遭日军反击，其先行加入战斗的先头团第599团被日军迅速击溃，其中两个营损失惨重，营长皆阵亡。随后该团残部被配置在5412高地，奉命以残破部队对日军发起反击，又遭日军挫败。是月中旬，该师第600团、第598团先后抵达，旋即对日军发起新一轮进攻，在炮兵的掩护下先后夺取三个高地，并收复龙陵老城和文笔坡。随后该师奉命固守阵地，并补充第599团。10月中旬，该师在得到第5军军属工兵营、炮兵营、通讯营、战防炮营的支援下，开始向非吹坡、老龙潭等地攻击前进。11月初，该师在相继收复老龙潭、石老虎、老粮台后向芒市迂回。于是月中旬收复芒市后在蚂蝗山遭到日军反击，在击退日军的进攻后该师乘胜追击，并于12月初收复遮放后继续向前攻击，陆续收复双坡、拉隆、邦打、拱撒、河边寨。

　1945年1月中旬，该师以奇袭的方式攻占日军重要据点回龙山。随后该师配合友军收复象鼻山、腰子山、冷山等日军据点。畹町为友军第2军收复后该师回驻昆明市郊。3月，该师换装美械。师长高吉人升任第5军副军长，以第49师师长罗友伦继任师长。4月，师长罗友伦调任第207师师长，以美国战车学校毕业生廖慷继任师长。8月，日本宣布无条件投降，该师移驻罗次。9月，昆明防守司令杜聿明奉命以武力解决龙云所部，该师即在驻地以宴请滇军炮兵团为名，命临时受该师节制的第96师287团将该炮兵团缴械。第600团团长董瀚因空难殉职。10月杜聿明调任东北保安司令长官，该师抽调第598团作为司令长官部特务团脱离建制。该师另抽调所属第599团、第600团各一部作为基干新编第598团。

　1946年3月，第5军各部开赴武汉，该师被留驻云南开远，负责滇南地区的守备任务，暂由昆明防守司令部节制。10月师长廖慷调任第45师师长，以副师长熊笑三继任师长。12月，该师北开武汉，归还第5军建制，负责清丰至濮阳之间公路沿线的护路任务。

　1947年1月，该师移防徐州。4月，奉命向梁山出击。当梁山为友军第96师攻克后，该师作为第5军左路部队继续追击撤退的解放军，但是却被解放军阻击部队牢牢牵制，无法前进。直到解放军主力撤过黄河后，该师才得以前行，并以所属第600团渡河追击解放军。5月，该师转入鲁中，进驻新泰，旋向羊流店攻击前进，既而协同友军第45师攻占莱芜，再向博山攻击前进。6月下旬，该师奉命掩护友军整11师左后方向解放军沂蒙山区进攻。7月，该师向泗水攻击前进，既而后方发现解放军游击部队，逐回驻博山清剿。是月下旬，友军整编第84师一部在汶上为解放军围攻，该师奉命并向济宁发动攻击，以配合第45师前往解围。8月下旬，该师以所属第600团担任主攻夺取济宁后向西追击解放军，在厉家岗、徐家庄、沈官屯与解放军交战10余次，接连获胜。随后从白浮图出发，迅速抵达郭庄向解放军发动猛攻，成功为整84师解围。9月，该师在袁口整编为第200旅，原师长熊笑三改任旅长。整编后该旅又向丁里长发动攻击，在打退解放军的反击后，该旅即乘胜攻占丁里长。11月，该师驻防于鲁西地区开始休整。

　1948年4月，旅长熊笑三升任整编第5师副师长，以整编第5军副参谋长兼交通辎重兵团团长张毓英继任旅长。5月，解放军攻击民权，该旅奉命开拔越陇海路进入豫东协助友军作战。6月，解放军攻击定陶，该旅又回援山东。入鲁后该旅于曹县集结，随后向马楼发起攻击。由于解放军利用地形构筑据点、鹿砦，该旅往往是以惨重代价才得攻取一、二据点，整200旅在此与解放军胶着7天才攻克马楼继续进击。是月中旬，开封为解放军攻克，该旅奉命向西南迂回，企图截击由开封撤退之解放军，但是未能完成任务。6月下旬，该旅奉命进攻杞县以南之桃林岗，由于旅长张毓英将兵力逐次使用，遭受解放军猛烈还击，经一天攻击，所部伤亡惨重，仍未能前进一步。旅长张毓英当即被撤职查办，以整编第96旅副旅长周朗继任旅长。同时将该旅改为预备队使用。7月初，区寿年兵团为解放军歼灭后，该旅奉命除留第600团牵制解放军外配合友军向解放军迂回攻击，随后负责牵制的第600团与迂回部队分进合击，终于将解放军击退。9月，济南告急，该师由商邱救援，但是部队未到济南已告失守，逐回驻原防。不久该旅恢复第200师番号，原旅长周朗改任师长。11月初，该师在向黄口移动时，其所属一个营被解放军包围，经友军第45师解救脱离危险。是月中旬，该师集结与徐州。随后为解救友军第7兵团，沿林佟山麓攻击前进。不久该师在林佟山山腰遭到解放军顽强阻击，经两天战斗始突破阻击阵地继续东进。是月下旬，第7兵团被歼，该师回防徐州。当第12兵团被围后，该师开始撤守徐州，不料在至陈官庄附近时被解放军包围。团长刘屏玉在指挥部队集结时阵亡。该师在占领张庙堂阵地后，即以此为核心阵地固守。

　1949年1月9日，解放军对陈官庄的国军发动总攻击，该师与军部的通信被迅速切断。随后在通信兵的联络下得知军部下达了“停止战斗，自行设法”的命令后，由师长周朗率领开始突围。但是不久之后即被解放军包围歼灭，团长刘明德阵亡；师长周朗、团长蔡香清在卫兵的保护下侥幸逃出包围圈，但是旋即为地方民兵俘虏；副师长麻心全化装脱逃。该师另有一部500余人由团长熊道存率领逃至萧水被击溃，熊道存被俘。