1937年7月7日抗日战争爆发后，唐生智兼任军事委员会警卫执行部主任，9月8日国民政府令大本营军事训练总监唐生智兼任军法执行总监。11月12日上海失陷，日军直扑南京，蒋介石在会上询问众将对防守南京的看法，李宗仁和白崇禧从军事角度上均不主张固守南京。蒋又问唐生智，唐则忽然起立，大声疾呼：“现在敌人已迫近首都。首都是国父陵寝所在地，值此大敌当前，南京如不牺牲一二员大将，我们不特对不起总理在天之灵，更对不起我们的最高统帅。本人主张死守南京，和敌人拼到底！”唐的一席大话，正是大敌当前的危机之时，很有大义凛然的气势。蒋介石听罢唐言，大喜过望，立即委任唐为南京城防司令。唐更慨然受命，誓与南京共存亡。李宗仁当时感到唐大有张睢阳嚼齿流血之概，很不以为然。李宗仁便若有讽刺地翘起大拇指，对唐说：“盂潇，你真了不起啊！”唐则反唇相讥：“德公，战事演变至此，我们还不肯干一下，也太对不起国家了！”，他当面向蒋介石保证“临危不乱、临难不苟”，表示“没有统帅命令决不撤退，誓与南京共存亡”，19日蒋介石手令唐生智为南京卫戍司令长官，20日到职，24日国民政府特派唐生智为南京卫戍司令长官，所辖部队十一个师加教导总队共十一万，分外围阵地和复廓阵地两个梯次配备，决心一战。11月25日，日军分三路向南京进逼，12月5日外围战打响，7日日军向南京复廓阵地逼近，至9日战况更加激烈，日军松井石根向卫戍司令长官唐生智劝告交出南京，唐生智命令将各部所有船只尽数收缴，以作背水一战。
日军劝降不成，10日开始对南京总攻击，唐生智冒敌机轰炸指挥中国守军对抗日军进攻，坚持不进地下室，在百子亭寓所指挥作战，11日全线展开激战。11日晚蒋介石命唐生智乘机撤退，但唐未向城外军队下达撤退令，故城外部队不知撤退之事，一直苦战，当时死守雨花台中华门，失守后退，碰到宋希濂。宋希濂说唐生智有死命令，后退者杀无赦。李弥无奈又杀回去。[2]12日敌猛攻南京光华门、和平门，雨花台失守。下午唐生智下令撤退，确定“大部渡江，一部突围”的原则，唐生智出城用预留的一艘汽艇渡江北逃，部队因无船渡江，原撤退计划未能实现，各军只得冬泳渡江，溺死者不计其数，不会游泳的只好脱掉军装混入百姓队伍。13日日军入城后进行了惨绝人寰的“南京大屠杀”，被惨杀者达三十万人，世界震惊，唐生智乘车抵滁州，后转汉口见蒋介石引咎辞职，并未置议。
而据史料记载：国民党守军12日夜开完撤退会议后，部分国民党开会的高级军官开完会后便独自悄悄的逃过江，他们只是携带自已的金银逃跑，根本没有通知自已所属的部队。有的城外部队一直激战到13日中午也没有接到撤退的命令，直到发现城墙没有人防守了，才知道头头们早已经跑了。像国民党的王敬久、宋希濂等高级军官逃跑时，不但没有通知城外的部队，而且居然置城外守军于不顾，下令关闭城门，逃过江后由于害怕日军追击，还下令烧毁船只，根本不管部队士兵的死活。
由于军官不顾士兵的大逃跑，使十几万国民党守军的士气顿时土崩瓦解，于是，士兵也大逃跑，绝大多士兵都往南京的下关跑，为什么？因为士兵们知道，那儿有他们军官们偷偷保留的船只！部下听说自己的长官往下关去了，也就都跟过去了。就这样，数万国民党军与成千上万的民众都涌向下关，可是，挹江门的36师却不放军队通过，因为他们接到命令，从下关撤退的只是卫戍长官部和36师。于是部队混作一团，后来甚至发生了内部的枪战。在南京大屠杀中，有八万多中国战俘被日军屠杀，但没有任何一个中上级的国民党军官战死。
因此，唐生智作为军事统帅的生涯告一段落了。