及晋公护诛，高祖召宪入，宪免冠拜谢。帝谓之曰：“天下者，太祖之天下，吾嗣守鸿基，常恐失坠。冢宰无君凌上，将图不轨，吾所以诛之，以安社稷。汝亲则同气，休戚共之，事不相涉，何烦致谢。”乃诏宪往护第，收兵符及诸簿书等。寻以宪为大冢宰。时高祖既诛宰臣，亲览朝政，方欲导之以政，齐之以刑，爰及亲亲，亦为刻薄。宪既为护所委任，自天和之后，威势渐隆。护欲有所陈，多令宪闻奏。其间或有可不，宪虑主相嫌隙，每曲而畅之。高祖亦悉其心，故得无患。然犹以威名过重，终不能平，虽遥授冢宰，寔夺其权也。
开府裴文举，宪之侍读，高祖常御内殿，引见之。谓曰：“晋公不臣之迹，朝野所知，朕所以泣而诛者，安国家，利百姓耳。昔魏末不纲，太祖匡辅元氏；有周受命，晋公复执威权。积习生常，便谓法应须尔。岂有三十岁天子而可为人所制乎。且近代以来，又有一弊，暂经隶属，便即礼若君臣。此乃乱代之权宜，非经国之治术。诗云：“夙夜匪解，以事一人。”一人者，止据天子耳。虽陪侍齐公，不得即同臣主。且太祖十儿，宁可悉为天子。卿宜规以正道，劝以义方，辑睦我君臣，协和我骨肉。无令兄弟，自致嫌疑。”文举拜谢而出，归以白宪。宪指心抚几曰：“吾之夙心，公宁不悉，但当尽忠竭节耳，知复何言。”
建德（三）年，进爵为王。宪友刘休征献王箴一首，宪美之。休征后又以此箴上高祖。高祖方剪削诸弟，甚悦其文。宪常以兵书繁广，难求指要，乃自刊定为要略五篇，至是表陈之。高祖览而称善。
其秋，高祖幸云阳宫，遂寝疾。卫王直于京师举兵反。高祖召宪谓曰：“卫王构逆，汝知之乎？”宪曰：“臣初不知，今始奉诏。直若逆天犯顺，此则自取灭亡。”高祖：“汝即为前军，吾亦续发。”直寻败走。高祖至京师，宪与赵王招俱入拜谢。高祖曰：“管蔡为戮，周公作辅，人心不同，有如其面。但愧兄弟亲寻干戈，于我为不足耳。”初，直内深忌宪，宪隐而容之。且以帝之母弟，每加友敬。晋公护之诛也，直固请及宪。高祖曰：“齐公心迹，吾自悉之，不得更有所疑也。”及文宣皇后崩，直又密启云：“宪饮酒食肉，与平日不异。”高祖曰：“吾与齐王异生，俱非正嫡，特为吾意，今袒括是同。汝当愧之，何论得失。汝亲太后之子，偏荷慈爱。今但须自勖，无假说人。”直乃止。
四年，高祖将欲东讨，独与内史王谊谋之，余人莫得知也。后以诸弟才略，无出于宪右，遂告之。宪即赞成其事。及大军将出，宪表上私财以助军费曰：“臣闻抚机适运，理藉时来，兼弱攻昧，事资权道。伏惟陛下继明作圣，阐业弘风，思顺天心，用恢武略。方使长蛇外翦，宇宙大同，军民内向，车书混一。窃以龙旗雷动，天网云布，刍粟粮饩，或须周给。昔边隅未静，卜式愿上家财；江海不澄，卫兹请献私粟。臣虽不敏，敢忘景行。谨上金宝等一十六件，少助军资。”诏不纳，而以宪表示公卿曰：“人臣当如此，朕贵其心耳，宁须物乎。”乃诏宪率众二万为前军，趣黎阳。高祖亲围河阴，未克。宪攻拔武济，进围洛口，收其东西二城。以高祖疾，班师。是岁，初置上柱国官，以宪为之。
五年，大举东讨，宪率精骑二万，复为前锋，守雀鼠谷。高祖亲围晋州。宪进兵克洪同、永安二城，更图进取。齐人焚桥守险，军不得进，遂屯于永安。齐主闻晋州见围，乃将兵十万，自来援之。时柱国、陈王纯顿军千里径，大将军、永昌公椿屯鸡栖原，大将军宇文盛守汾水关，并受宪节度。宪密谓椿曰：“兵者诡道，去留不定，见机而作，不得遵常。汝今为营，不须张幕，可伐柏为庵，示有形势。令兵去之后，贼犹致疑也。”时齐主分军万人向千里径，又令其众出汾水关，自率大兵与椿对阵。宇文盛驰骑告急，宪自以千骑救之。齐人望谷中尘起，相率遽退。盛与柱国侯莫陈芮涉汾逐之，多有斩获。俄而椿告齐众稍逼，宪又回军赴之。会椿被敕追还，率兵夜返。齐人果谓柏庵为帐幕也，不疑军退，翌日始悟。
时高祖已去晋州，留宪为后拒。齐主自率众来追，至于高梁桥。宪以精骑二千，阻水为阵。齐领军段畅直进至桥。宪隔水招畅与语，语毕，宪问畅曰：“若何姓名？”畅曰：“领军段畅也。公复为谁？”宪曰：“我虞（侯）〔候〕大都督耳。”畅曰：“观公言语，不是凡人，今日相见，何用隐其名位？”陈王纯、梁公侯莫陈芮、内史王谊等并在宪侧。畅固问不已。宪乃曰：“我天子太弟齐王也。”指陈王以下，并以名位告之。畅鞭马而去，宪即命旋军，而齐人遽追之，戈甲甚锐。宪与开府宇文忻各统精卒百骑为殿以拒之，斩其骁将贺兰豹子、山褥瑰等百余人，齐众乃退。宪渡汾而及高祖于玉壁。
高祖又令宪率兵六万，还援晋州。宪遂进军，营于涑水。齐主攻围晋州，昼夜不息。间谍还