１９７９年７月起遵照中央军委决定，聂荣臻主持研究各总部、军兵种、大军区领导班子的调整配备问题。他多次听取总政主管干部工作的副主任及总政干部部负责人的汇报，找有关干部谈话，征求意见，并向邓小平、叶剑英、徐向前等及时汇报请示，终于认真贯彻了关于干部革命化、年轻化、知识化、专业化、任人唯贤等项原则，经过５个多月的努力，顺利地完成了任务。
聂荣臻对军队的训练、政治工作、后勤工作，也有许多重要的指示或建议。
１９７８年１０月，他在审查军事科学院院长宋时轮写的《从投手榴弹问题看当前部队的教育训练》的文章后，写信给宋时轮，除了同意训练中不能要求战士投手榴弹越远越好，考核评比不能搞形式主义等意见而外，强调指出：部队今后要特别重视打坦克、打飞机、打空降兵和防原子、防化学、防生物武器的“三打三防”训练，不能过多地强调投弹、刺杀、步枪射击、“练铁脚板”等传统训练方法。这不仅是技术问题，也是战术问题。他多次提到第二次世界大战时，苏军对德军、日军对美军作战的教训。当时德军、美军拥有冲锋枪、自动步枪等，而苏军、日军开始只有传统的步枪，根本没有拼刺刀的机会，吃了大亏。因此，他的结论是，人民解放军一定要结合实战需要，从难从严，科学地进行训练。
