同盟国首脑会晤结束之后，顾祝同没有离开北京，而是按照冯承乾的吩咐，留下来参加国防部的筹备工作。
当时，刘伯恩下了死命令，国防部必须在战争结束之前成立，而且必须在两个月内拿出详细的组建方案，在六月底之前开始试运行，而其第一个任务就是对三军的武器装备情况做全面调查。
有趣的是，三军司令都没有亲自参与筹备工作。
到四月初，顾祝同已经得知，冯承乾没有留在青岛的海军疗养院，在三月底就已经秘密回到北京。此外，吴铁生与刘亚光也回到了北京。在四月初的时候，刘伯恩以准备参加曼谷首脑会晤为命离开了总统府。
显然，这四位大人物去商量成立国防部的事情了。
顾祝同的主要任务，就是为海军在即将成立的国防部争取到更多的好处，即确保海军在三军中的地位。
可以说，这是一件非常棘手的工作，也非常容易得罪人。
要知道，在阻挠建立国防部的努力失败之后，陆军肯定希望在国防部中占主导地位，而空军也不会甘于人后。
忙到五月底，筹建国防部的工作总算是有了眉目。
这就是，三军代表都认识到，国防部只是一个文职管理机构，即便掌握了军队中最重要的人事任免权与军费分割权，也不具备指挥军队作战的能力，因此必须建立一个以指挥作战为主的军事机构，而这就是总参谋部。
当然，细节上的问题依然存在。
比如，三军代表都认为，总参谋部应该是一个与国防部平行的机构，并不受国防部的节制，但是政府代表却认为，总参谋部不可能拥有与国防部平等的地位，最多只能算得上是国防部的一个下设机构，必须受国防部节制。说得简单一点，在平时，总参谋部只有制订战争计划与军队联合训练演习的权力，而到了战争时期，在得到了国防部的授权之后，总参谋部才有指挥军队作战的权力。
在这件事情上，顾祝同扮演了极为重要的角色。
这就是，正是他改变了立场，站在了政府这边，才迫使陆军与空军妥协，而代表陆军的张文渊与代表空军的骆崇明都把顾祝同当成了叛徒，认为正是顾祝同的转变，使军队的利益受到了极大损害。
要知道，这等于完全放弃了自主权。
当然，顾祝同的理由只有一个，即军人必须放弃权力，更得通过制度使军人不具备干预政治的权力，中国的政治环境才能得已改善，也才能够建立起真正意义上的民主社会，并且不受野心家的威胁。
成立总参谋部的事情确定下来之后，又有了一个新的问题。
这就是，有总参谋部，自然就应该有总参谋长，那么由谁来担任总参谋长呢？
虽然在和平时期，总参谋长只是一个虚职，基本上没有实权，最多只有建议权，但是总参谋长实质上是最高军事统帅，在军队中肯定拥有最高的威望，而且在战争时期将代替总统指挥军队作战。
甚至可以说，即便只是建议权，也有着十足的影响力。
原因很简单，文职官员未必懂得如何管理军队，更不可能把握好军队的发展方向，而总参谋长则拥有这样的能力，并且通过建议权来影响国防部长，从而对军队的建设与发展产生重大影响。
问题是，谁来担任总参谋长？
显然，陆海空三军的任何一名将领担任总参谋长，都会影响到军种平衡，也就会引发军内矛盾。
更重要的是，军队不是民主社会，不可能通过选举产生。
讨论到最后，三军代表最终达成了一致，即在原则上，总参谋长由国防部长任命，而实际上则由三军轮流坐庄。更重要的是，不使用“总参谋长”这个称呼，而是称之为“参谋长会议主席”。
当然，这涉及到了另外一个问题。
这就是，在军事改革之后，三军司令部都将撤消，仅保留参谋部，而三军的实际最高指挥官都是参谋长。更重要的是，三军参谋部都隶属于总参谋部，并且由三军参谋长组成总参谋部的参谋长会议。
既然是会议，就应该有主席。
这样一来，参谋长会议主席就是实质上的总参谋长了。更重要的是，这个主席是三军参谋长轮流坐庄，也就不存在哪个军种独大的局面。
原则上，参谋长会议主席每两年更换一次。
当然，这并不是硬性规定。在必要的时候，总统做为军队的最高统帅，可以撤消与任命参谋长会议主席。