1939年冬，经白崇禧介绍，吴石调任第四战区参谋长。
从1940年2月起，桂南作战改由第四战区司令长官张发奎指挥，吴石仍然肩负参谋重责。经过艰苦作战，1940年10月末，中国军队终于收复南宁，取得了桂南会战的胜利。吴石敏锐判断了日军撤退的动向，及时组织追击，日军仓皇逃遁出海，使南宁及沿途地方未遭破坏，且缴获了日军大批辎重。南宁作战后，吴石升任第四战区中将参谋长。
吴石担任第四战区参谋长长达五年。这期间，他为人正直，淡泊名利，埋头苦干，在艰苦的战争环境中和战区司令长官张发奎建立了深厚的友谊，成为他得力的助手，也博得同僚的赞誉与拥戴。
吴石成为北伐名将张发奎的搭档。张发奎(1896—1980)，字向华。广东始新人。中国国民党军陆军二级上将。1916年毕业于武昌陆军第二军官预备学校，回粤军由排长逐级升至旅长。1925年冬任国民革命军第四军第十二师师长，次年参加北伐战争，在攻占汀泗桥、武昌城等作战中，因有战功升任被誉为铁军的第四军军长。1927年4月，宁汉分裂，张拥护汪精卫，反对蒋介石。6月，被武汉国民政府任命为第二方面军总指挥。率部入赣，准备讨蒋。7月宁、汉合流后，追随蒋、汪反共。9月入粤，11月与汪合谋，发动兵变，驱逐桂系势力，行使广州军事委员会分会主席职权。12月，镇压中国共产党领导的广州起义。同月，李济深率部配合黄绍竑部进攻广州。张兵败辞职，后附蒋。1929年蒋桂战争中，任蒋军第一路追击军司令兼第四师师长，进驻湖北宜昌。9月，获悉蒋欲消灭所部，遂联桂攻粤，再次反蒋，12月被陈济棠部击败。1930年蒋冯阎战争中，联合桂系支持冯、阎反蒋，出兵岳阳，失败。抗日战争期间，先后任集团军总司令、兵团总司令、战区司令长官、方面军司令官等职，率部参加过淞沪、武汉、昆仑关等战役。1945年抗战胜利后，任广州行营(后改行辕)主任，1947年改任总统府战略顾问委员会委员。1949年3月任陆军总司令，7月辞职后定居香港。
正因为吴石是白崇禧介绍来的。初到时，第四战区司令长官张发奎认为吴石的靠山是白崇禧，是新桂系的人，很担心如果彼此相处不好，会影响同桂军的关系。时间是很好的试金石。很快，张发奎就看清楚吴石的为人，感到吴石是一个可靠的帮手，正派，埋头工作，不搞阴谋、拉宗派。于是，就放手把整个军事部署工作交给他办理。作为张发奎的得力助手，他为张发奎分挑军务的重担。一次，张发奎在与吴石研究公务时，真心地对吴石说：“自从你来后，我轻松多了!”
这时，第四战区长官部外表看一片和谐平静，但内部各个派系间也是互不相让，勾心斗角，偶尔也会风波乍起。张发奎少不了身边有一小批自己信任的亲信，如冯少田、余海湛、高若愚等，为他出谋划策、掌握要害部门。比较开明、拥护统一战线的原四军旧部，如张文、郭冠杰、张励、陈宝仓、丘哲、麦朝枢等，也为张发奎所重视。而第四战区长官部政治部主任梁华盛却是陈诚派来的，实际上是监视张的动向，梁华盛经常直接向上密报张的情况。从战地服务队的一大批进步青年也参加进来，其中不少是秘密的共产党员，如左洪涛、何家槐、孙慎、杨应彬、郑黎亚等。面对这样的格局，张发奎心里清楚：在他身边的这一堆人中，进步力量主张团结抗日，不会给他带来什么麻烦；倒是梁华盛之流拿着上头的令箭，随时有被告发的危险，要小心应对。
在第四战区内部，深受西方民主思想和爱国主义思想影响的吴石与张发奎步调是一致的，始终站在支持团结抗日进步力量的一边。为提高一班开明的资深将领的发言地位，吴石提议设立高参室，以与政治部相抗衡。吴石对战地服务队来的进步青年原本不太了解，听说是与张发奎私交很深的郭沫若⑥从上海介绍来的，一开始就有好感。特别是经过一段时间的接触，感到这些青年很有朝气、很有作为，就尽量帮助他们，替他们说话。后来，有人在第四战区散布左洪涛、何家槐思想左倾、不适合在张发奎跟前当秘书时，吴石公开站出来说话：“这些年青人有文化、能力强，不要相信没有根据的话。”有一次，抗敌演剧队在柳州演出，剧中讽刺一些不抵抗主义者。政治部认为，要修改台词才能继续公演。吴石仗义执言，认为政治部管得太多了。为表示支持，他特意约副参谋长陈宝仓、高参高若愚一起去观看，在演员谢幕时还登上舞台同演员一一握手，祝贺演出成功。这一明显支持的举动，让政治部无可奈何，原先要求修改台词的事只好作罢。
1940年初，第四战区长官司令部从韶关转移到柳州，驻扎在柳江南岸窑埠街后蟠龙山下。
柳州古称龙城，建制于西汉。柳州虽是蛮荒之地，却因柳宗元的出现而出名。唐代文学家柳宗元曾任柳州刺史，虽仅做了四年刺史，并病逝于此，但留下劝农桑、修道路、修寺庙、放奴婢等五大政德，旷世之作《永州八记》等诗文，当地百姓为其修建柳后祠。
尽管吴石崇拜柳公，偶尔也到柳后祠走走，但这时他却没有多少时间用于自己的兴趣和爱好，更多地思考战局的演变，部署战事。
8月，陈嘉庚组织南洋华侨回国慰劳团风尘仆仆访问柳州。
陈嘉庚(1874—1961)，爱国华侨领袖，福建厦门人。18日，陈嘉庚一行乘车抵柳州。陈嘉庚的到来，给抗战中的桂林带来难得的信心。陈嘉庚与吴石这两位福建同乡、好友重逢了。
第二天，吴石等同乡专门举行茶会，欢迎陈嘉庚的到来。茶会中，因警报突响，只得中断。 .
吴石单独邀请陈嘉庚到官邸一叙。吴石高兴地把陈嘉庚迎进客厅，唤妻子王碧奎为客人泡上散发着清香的茉莉花茶，相互交谈起来。
吴石与福建同乡，华侨领袖陈嘉庚先生私交甚笃，特别是对陈嘉庚先生坚持抗日的言行大义深为佩服。吴石清楚记得，1938年10月，陈嘉庚以国民参政员的身份从新加坡打电报给正在重庆召开的国民参政会第二次大会，提出议案，建议确定：“敌人未退出国土之前，公务员谈和平者便是汉奸国贼”（列入提案时文字改为：“敌未出国土前，言和即汉奸”）。当时担任“议长”的汪精卫，在宣读这一提案时，脸色突然变得苍白，提案很快获得通过，人心大为振奋，使一时笼罩重庆的企图对敌妥协的气氛顿时消失大半。著名记者邹韬奋当时兴奋地报道：“这寥寥11个字，却是几万字的提案不及分毫，是古今中外最伟大的一个提案。"⑨吴石也为之击节叫好。
陈嘉庚谈起前不久延安之行的印象，“虞薰兄，我看延安与重庆大不相同。在重庆，不顾敌人轰炸，大兴土木；在延安，我所见到的是朴素。几个海
外归来的女学生进屋见毛泽东，没有鞠躬行礼，有什么就大声讲，毛也毫不介意。晚餐时就把一张圆桌放在小方凳上，铺上几张报纸就行了。餐桌上最贵的菜是一碗鸡汤。我看，中华民族的救星在延安。”吴石沉默一会儿，说道：“国军中一些腐败情况确实令人痛心。抗战已进入重要阶段，请陈先生多费心，多联系闽侨，大家要有钱出钱，有力出力。”
“我是福建人，我闽省出兵力不及他省，我闽侨应多出钱，以补省内出力之不足。”
谈着谈着，两个爱国者的心连在一起。临别时，他们两双有力的手紧握在一起，使劲地摇着，是那样热烈、那样深情。
20日晚，陈嘉庚乘火车赴桂林，吴石到车站送行，目送好友在火车轰鸣中离去。
吴石感到一种责任压在自己的肩上，解救中华民族于危难“匹夫有责”。
在他的办公室内挂满军用地图，所有作战计划都由他本人亲自草拟。每天清晨5点多，天刚朦朦亮。他已出现在崎岖的山道上，一匹枣红色的战马在驰骋。马蹄声声，唤醒了沉睡的山林，也唤起官兵们出操练武的积极性。据《张发奎传》记载：“张发奎不论寒暑，喜在凌晨跑马，极少间断。参谋长吴石也爱骑术，少不了双双驰骋，彼此角逐。”
时光在周而复始中消逝。
1941年1月上半月发生的皖南事变在国统区引起震动。
1939年后，新四军10万之众，在华中数省地区坚持抗战，日军视为眼中钉，不断“扫荡”；而合作抗日的蒋介石竟然也忌恨新四军，几次派国民党军队制造摩擦，甚至武装进攻。3个月内，蒋介石利用最高统帅的地位，连发3道“金牌”，令皖南新四军限期北移。
1941年1月初，新四军军部及主力部队9000余人开始北移，6日行至皖南茂林地区时，国民党第三战区司令长官顾祝同和国民党第三十二集团军总司令上官云相预先布置好7个师8万余人，把他们重重包围于穷山大壑之中，加以袭击。
新四军被迫还击，奋战7昼夜，终因寡不敌众，弹尽粮绝，除2000余人突围外，大部被俘、失散或牺牲。军长叶挺在同国民党谈判时被扣，副军长项英突围时被杀害。
1月17日，蒋介石反诬新四军“叛变”，说什么蓄意消灭皖南新四军是“整饬纲纪、贯彻命令”，还借此宣布取消新四军番号，并要将叶挺交军法审判。
这段时间里，广西的形势也十分凶险。中共特别党员吴仲禧耽心这会影响四战区抗日统一战线的局面，也担心好友吴石的态度。到柳州的第二天，吴仲禧就去见吴石，两人攀谈起来。
吴仲禧说：“对这段发生的事怎么看？”
吴石紧接着说：“皖南事变完全是第三战区的事。我看，目前还不至波及这里。我们现在的任务重要的是对付日寇继续南下，做好各种作战准备，国共之间的摩擦不应扩大。”
吴石继续说道：“两党联合抗日已感力量不足，再要反共，只有降日。”
吴仲禧提醒说：“有人说你的后台是白健生，你怎么看？”
吴石不无遗憾地答道：“对白崇禧与何应钦发表的皓电，不管如何。有人说我依靠白健生，难道我在国内外军校名列前茅也是靠他吗？我从来不依靠任何人，谁真正爱国，我就跟谁走。”
从一些史料看，皖南事变发生后，在张发奎、吴石等高级将领的坚持下，第四战区没有追随国民党中的顽固派进行反共，一直坚持中立的态度，局势稳定。在一片反共喧嚣中能够这样做，确实是难能可贵的，这与张发奎、吴石等高级将领的开明态度是分不开的。
作为战区参谋长，吴石把相当的精力用在军事部署上。在危急时刻，他还亲自奔赴第一线，指挥战斗。
当时，美军将领史迪威、魏德迈都有打通滇缅路的意向，国民党军事当局对广西的防务难以顾及。广西只是起后方兵站的作用，兵力部署显得十分单薄，特别是桂北没有安排重兵。对此，吴石感到极度的担忧，极力主张及早周密部署、防止日军由湘入桂或由粤西入桂。看到军队调度困难，他提出实事求是的解决方案，建议国民政府调杜聿明远征军的一部留驻桂北，可惜没有得到批准。
1942年初，敌人从南宁撤退。吴石对此早有预见，及时准备，果断派出邓龙光、夏威部追击，使地方上所受损失大为减少。他后来回忆：“当敌开始撤退时，余自广播得情报，适张长官（发奎）不在柳，未及请示，乃将邓龙光、夏威之部队集中作追击之部署。命令既下，翌日，敌即退出南宁，余电请张长官回柳主持，自任追击之责，以吾人追击颇为活跃，故所获战利品亦多，敌仓皇逃遁不及进行破坏，地方赖以保全者甚多，邕市区内之建筑物，桥梁及水电设备完整无缺，不可谓非得追击迅速之效果也。”⑦
桂柳战役开始后，抵挡强敌的只是处于劣势的队伍，吴石作为战区参谋长，感到“指导上之困难已臻极点，殆毕生所未经”⑧。为了掩护战略物资，他不辞辛劳，亲临怀远前线组织阻击。这时候，他手中仅有一个工兵团的兵力，重炮不过三四门、战车不过七八辆。可他心中已有对敌良策，下令官兵坚筑阵地，据河固守。部下人心惴惴，明白眼下情况是敌众我寡，恐难抵挡得住。吴石将全体官兵召集起来，运用敌我态势图详细分析敌方之不足、我方之优势，强调只有坚守，才有希望。要大家举手宣示誓死守住阵地，一下子鼓舞了士气。为使战情了如指掌、督促官兵坚守，每天他都到前线一次，躬亲指挥。就这样，吴石率部与敌相持7天7夜，敌人最终不敢渡过河。中国军队终于守住了独山至百色一带的战略要地，将敌阻于黔川大门之外。
吴石以他的胆识最终化解危局。