首先，确定了三公不再兼任政府职务的原则。本来魏晋以后三公职务就已经荣誉化，三公不再负责具体行政事务，但三公位居一品，在历史上作为中枢首脑的地位也有着巨大的惯性，对新的三省体制的运行和专制皇权的集中有着不利的影响，因此必须从体制上加以根除。隋文帝正式规定三公均不参加政府机构的活动，只作为奖赏有功之臣的最高荣誉职衔，而且尽量不以公官授人。这些措施最终从体制上根除了旧体制的残余，为新的中枢体制的良好运行提供了保障。其次，确定了三省之间的分权方式。魏晋以来，三省体制逐步成长，逐渐形成尚书省掌行政、中书省掌诏令、门下省掌封驳的决策程序。但魏晋南北朝时期三省之间的这种关系既不十分清楚，也并未固定下来，造成三省之间决策地位的游移，影响三省新中枢体制的正常运行。隋文帝将这种分工确定下来，并将三省（隋为避文帝父杨忠讳，改中书省为内史省）长官均列为宰相，并确定尚书省总署都省为“政本之地”。这一措施将魏晋南北朝时期试运行达三百余年的新体制加以定型，奠定了隋唐中央行政体制的基本构架。