1928年，桂永清升任旅长，上任后他越过上级直接向蒋介石要求让邱清泉当他的副旅长。蒋介石见桂永清这么不懂事，就故意派了李默庵去担任副旅长。

李默庵去向桂永清报到时，正在和几个手下打牌的桂永清连正眼都没有瞧李默庵，很直接的说：“你来干什么，我推荐的副旅长是邱清泉。”

李默庵也是个性烈如火的人，怎么可能吃这个亏，他直接到南京去向蒋介石告状，将桂永清的嚣张表现添油加醋地做了一个汇报，蒋介石火冒三丈，当即下令撤销了桂永清的旅长。

桂永清自认为无缘无故地被撤了职，就奔往南京，要找蒋介石问个清楚。谁知他到达南京后，根本没有机会见到蒋介石，甚至连大门都进不去，于是他决定找何应钦指条明路。

何应钦没有和桂永清讲太多，只是告诉他回住所等待消息。三天后，何应钦找到桂永清，并告诉他，蒋介石已经同意委派他去德国深造并同意接见。

见面后，蒋介石怒斥说：“你胆子越来越大，我的命令也不听”

桂永清后，解释说：“这都是误会，我已推荐邱清泉当副旅长，李默庵来了我怕重复。”

蒋介石说：“何部长向我求情，我也念及你尚算有能力，决定派你去德国深造，学习军事技术。”就这样，桂永清离开军营，前往德国深造。

回国后，蒋介石见桂永清为人处世也成熟稳重了许多，于是再次起用了他。蒋介石组建复习社后，桂永清和刘健群、贺衷寒、邓文仪、康泽、酆悌、郑介民、曾扩情、梁干乔、肖赞育、滕杰、戴笠、胡宗南被称为“复兴社十三太保。”

复兴社的骨干都是蒋介石极为信任的嫡系，可见这时的桂永清再次博取了信任。

1933年，桂永清奉蒋介石之命令成立中央陆军军官学校教导总队总队长，桂永清将他从德国学回来的德式训练方式进行训练。此外，桂永清花高价从德国引进了一批德式装备，挑选教导总队的精干官兵，组建一支特务队，这支队伍装备先进、训练有素，后来被蒋介石看中，调往南京官邸附近驻扎。

全面抗战爆发后，军政部长何应钦起初让桂永清将教导总队扩编，作为二线预备队。

桂永清返回总队之后召集营长以上官佐开会，说：“摆在我们面前有两条路，一是到后方扩军，大家升官，我升集团军总司令，你们营长升团长，团长升师长，旅长升军长。另一条是到前方作战牺牲。长期以来，我们是少有的拿全薪的，论装备我们是全新德式。如今各部队都在请战，我们却到后方扩编，虽属命令，扪心自问，能无愧疚吗。”

最后，桂永清问：“养兵千日用在一朝，我请各位表决。”

最后全体军官一致要求上火线。桂永清马上报告蒋介石及何应钦，蒋介石下令将教导总队1个团调到湖南扩建，总队主力调入淞沪战场。教导总队在淞沪会战中伤亡惨重，之后残部在南京保卫中基本损失殆尽。

1938年4月，第37、第39军各一部合编组成第27军，隶属第一战区。桂永清任军长。在淞沪和南京，桂永清的表现是不错的，可是在他27军军长任上，在兰封会战中指挥失当，与日军交战时一触即溃，造成了严重的后果。

战后，桂永清由于和何应钦和陈诚的关系都很密切，没有重惩，只是被撤职了事。

1944年，桂永清出任驻英武官兼军事代表团团长。在英国，他主要学习英国海军管理体制和海军训练体系。苏军攻克柏林后，桂永清又出任了驻德国军事代表团团长。

就在桂永清在国外之际，戴笠却突然向蒋介石推荐由桂永清出任筹建的海军司令部副司令。

戴笠跟桂永清在复兴社时有过往来，但关系一般。当时的戴笠，见蒋介石对军统的日益庞大感到不满，便想谋一个新的出路，他想担任海军总司令之位，苦于没有人才可以用，想来想去，决定交好桂永清。

为了赢得桂永清的信任和好感，戴笠自桂永清被派出国后，经常主动派人去桂永清的老家给他的父亲送钱送物，桂永清知道后对戴笠感恩戴德，认为在落难之时伸出援手的才是真正的朋友。

经过一段时间的接触，戴笠和桂永清的关系变的日益密切，当桂永清知道戴笠准备谋取海军总司令一职后，当即表示支持。就这样，戴笠顺利地将桂永清纳入自己的“海军人才储备库”。

戴笠为何对当海军司令这么热衷？原来，在1945年前后，美国表示愿意在帮助国民政府重建海军，提供相关的武器装备、技术、人员培训上的援助。由于美国海军在二战期间得到了国民政府，尤其是军统巨大的情报帮助，使美国海军躲过了多次日军的空袭，甚至在关键海战的情报战中也得到过军统的直接支持。所以，美国人向蒋介石提出了一个要求，要求继续由军统的负责人戴笠负责统筹美国援建海军事宜。

戴笠得知这个消息后自然很高兴，这正和他的企图不谋而合。蒋介石委任戴笠为海军筹备的负责人，而戴笠则毫不避讳地举荐了身在海外的桂永清任海军副总司令。

人算不如天算，1946年3月17日，戴笠在岱山坠机身亡。1946年9月，由于有此前戴笠的极力推荐，回国的桂永清成了国民党海军总司令。