兴平二年（195年），曹** 重振旗鼓，再战吕布，三战三捷，破定陶、廪丘等城，彻底平定兖州。
七月，因李傕、郭汜的火拼，汉献帝从长安东归，并下诏让各路诸侯勤王。
十月，献帝正式拜曹** 为兖州牧。
建安元年（196年）二月，曹** 讨平汝南、颍川一带的黄巾军何仪、刘辟等部，汉献帝封曹** 为建德将军。（此战过后刘辟遁入山林，直到归降吕岱。）
六月，因为曹** 谋士董昭的劝说，献帝身边的杨奉等人上表，拜曹** 为镇东将军，袭父费亭侯爵位。
此时，曹** 想迎接献帝，其谋臣大多认为山东尚未平定，献帝身边的韩暹、杨奉等又骄横难制，所以不赞成迎接献帝。但荀彧、韦孝宽等人却极力支持，于是曹** 就派曹洪率兵迎接汉献帝，但被卫将军董承与袁术的将领苌奴据险阻止。
七月，献帝回到洛阳，董承为牵制韩暹等跋扈将领，又密召曹** 来洛阳。
八月，曹** 来到洛阳，奏明韩暹、张杨之罪，韩暹逃奔杨奉，又因为护驾之功被献帝特赦。于是，曹** 杀了侍中台崇、尚书冯硕、议郎侯祈，封董承等十三人为列侯，曹** 本人亦领司隶校尉、录尚书事。
随后，曹** 听从谋士董昭的建议，于九月迁献帝于许县，被封为大将军、武平侯。杨奉对曹** 迁许之举非常不满，打算拦路截击，结果失败。
十月，曹** 讨平杨奉。
十一月，曹** 出任司空，行车骑将军事，总揽大权。
自此，曹** 挟天子以令诸侯，奉天子以讨不臣，又全据兖豫司三州，麾下又得到了诸如关羽、徐晃、羊侃等猛将的效力，隐隐约约已经成为了天下第一诸侯！
建安二年（197年）正月，曹** 讨伐张绣，军队驻扎在淯水，张绣举众投降，旋即复叛，曹** 的长子曹昂、侄子曹安民、猛将典韦在此战中战死。
此后，曹** 又两度攻击张绣，都没有彻底击破。
九月，曹** ** 袁术，袁术不敌，丢下大军，逃至淮河。
建安三年（198年）四月，曹** 遣谒者裴茂率中郎将段煨讨平李傕，夷其三族。
九月，曹** ** 徐州，进攻一直与他为敌的吕布。
此战，曹** 麾下关羽、萧摩柯、羊侃、薛安都、许褚五大猛将** 吕布。
吕布不敌，因此大败，率领残兵退守下坯。
而在曹军攻势之下，吕布军上下离心，
十二月，吕布的部将魏续、宋宪等生擒陈宫，归降曹** 。
吕布见大势已去，便下城投降。
曹** 将吕布、陈宫、高顺等人处死，收降吕布部将张辽以及泰山豪杰臧霸、孙观等人，从此控制了徐州。
此战过后，曹** 因功被天子封为丞相。
建安四年（199年），因为畏惧曹** 的强大，又害怕被攻灭，占据南阳的张绣便听从谋士贾诩之计，率部投降曹** 。
曹** 大喜，拜张绣为扬武将军。
之后，曹** 委任族弟曹仁率部驻守宛城，防备荆州；又派遣夏侯惇率部驻守寿春，部将李典率部驻守合淝，一起防备江东。
同时，曹** 开始整顿内部，加强军备，以及自己在朝中的威望，并为接下来的一统天下作准备。
曹** 花费八年时间，一统中原，速度不可谓不快。但期间遭遇吕布的侵袭，导致损失惨重，吕布可谓是曹** 前期最强大的对手。
但曹** 有一群忠心的部下可以依托，最终将吕布赶出兖州。曹** 又听取手下正确的建议，迎天子入许，因此才能称霸中原。
最后，曹** 彻底击败吕布，又得到了张绣的投诚，曹** 环顾四周，天下再无对手。
直到衣带诏事件爆发，并州刘渊向曹** 最坚实的盟友——袁绍宣战，随后鲜卑人南下，入侵袁绍的领地，袁绍四面楚歌之下，便向曹** 求援。
其后，荆州刘表也向曹** 、袁绍宣战，江东孙策也蠢蠢欲动，曹** 不禁被吓出了一身冷汗。
结果，又陆续传出了孙策遇刺身亡，刘表与侄子刘裕决裂的消息，曹** 这才松了一口气。