192年曹操兵临兖州，程昱应召入府。
194年兖州叛乱，荀彧程昱夏侯惇靠最后3县力挽狂澜。
196年曹操迎献帝，程昱为尚书，东中郎将，领济阴太守，都督兖州事。这时候曹操的地盘也不过豫州和兖州两州，程昱独掌一州。 同时间的于禁乐进还不过是都尉校尉。程昱也是纵观整个曹操时代少有的非宗室有长期独立领兵权的都督统帅。此前只有建武将军夏侯惇在武官行列高于程昱，在迎献帝这年，夏侯惇暂时转河南尹，负责坐镇都城。也就是在迎献帝这一年，程昱是曹操帐下包含诸曹夏侯内的武官第一人，掌管曹操一半地盘。
同一时间，曹仁以议郎身份开始督军，但是地位权柄还不如程昱。
199年张绣投降，封扬武将军，成了名义上的曹操武官之首，但是实权上程昱还是曹操旗下和夏侯惇并列的都督统帅，曹仁以类似独立团的身份有独立行动配合曹操本部行动。这个时候曹操出现第三个独立统帅，就是臧霸，负责青徐二州军事，不过不同于青徐并为完全评定，需要臧霸的影响力来稳定东部局势。实际权柄仍不如程昱夏侯惇。
200年官渡之战前，程昱升振威将军，重新和张绣并列曹操第一武官。 此时关羽刚封偏将军，其他四子为中郎将，校尉，都尉身份，仅为部将身份。
202年程昱封奋武将军，这是曹操当年当过的职务，程昱仍然延续曹操第一武官身份。
204年夏侯惇授伏波将军，重回武职。程昱仍然保持和官渡升破羌将军的张绣并列外姓第一武官，和臧霸并列外姓唯二两大独立统帅之职。
206年历史性的一刻，张辽乐进于禁被封荡寇，折冲，虎威。从此以五子为代表的新一代将军正式进入核心曹操核心军事圈。但此时，夏侯惇曹仁曹洪乃至夏侯渊等宗室武将逐渐成长。 臧霸主动提出将家属迁到邺城做人质，张绣莫名去世，程昱开始隐退，并于赤壁之战后彻底交出兵权。
自此，作为曹魏早期真正的外姓头号大将退出历史舞台，取而代之的是作为曹魏五大谋士之一，大智若刚的程昱程仲德。