原来，曹操统治兖州后，也有些跋扈。陈留人边让因为对曹操有所讥讽，就被曹操杀了。这下子，兖州的人都害怕起来，埋下了叛乱的种子。一直对曹操忠心耿耿的陈宫是个直肠子，也担心自己将来会不小心触怒曹操，落得一个和边让一样的下场，就和一些人商量叛变曹操，并前往游说曹操的好友，陈留太守张邈。张邈虽然是曹操的好友，但这时得罪了袁绍，担心与袁绍神虽离貌仍合的曹操会迫于袁绍的压力对自己动手，正是惴惴不安的时候。大家一拍即合，决定迎请“善战无前”的吕布来做新的兖州牧。
这时候，吕温侯又在干什么？吕布逃离长安后，到处投亲靠友。然而，他总是自恃有讨伐董卓的大功傲慢无理，手下的人马又军纪败坏惹是生非，最后谁也不愿意收留他，只能去投靠没有名气的河内太守张杨。兴平元年曹操再次攻击陶谦时，陈宫等人趁后方空虚之机反叛，并派人去迎请吕布。
这样的变故，对吕布来讲是天上的馅饼，对陶谦来讲是飞来的横福，对曹操则无异是晴天的霹雳。陶谦是打不成了，只好回师。不幸中的万幸，曹操虽然丢失了兖州，在荀彧，程昱的帮助下还是守住了三个县城(兖州共有辖郡、国八，县八十)，保留了翻本的可能。曹操看到吕布未能在他回来的路上截击他，反而贪恋濮阳城，心中有了底，断定不是自己的对手。然而真刀真枪地打起来，却遇到了麻烦。战场上吕布厉害，更要命的是陈宫长期在曹操手下效力，对曹操的打法了如指掌，差点要了曹操的命。濮阳城的混战中吕布的骑兵捉到曹操后当即审问：“曹操在哪里？”曹操一听，原来不认识我，太好了：“前面那个骑黄马逃命的就是曹操。”这才蒙混过关逃脱一劫（三国演义中为了突出其戏剧性，将其改为了吕布）。而祸不单行的是当年天下大旱，谷子一斛（按照后来邓艾推行屯田时的描述，这够一个成年人吃六天）卖到五十万个铜钱，买一星期的口粮居然要累死一头牛。八月，又闹了蝗灾。军粮成了双方的大问题，拉锯中的曹操吕布谁都打不下去了。这个时候，远在邺城的袁绍看到曹操的窘境，趁火打劫，要“礼聘”曹操到邺城。曹操正是根据地丢光，军粮告尽的时候，人穷志短，差点答应。眼看武帝纪就要变成曹操列传时，程昱跳出来反对，慷慨激昂：“将军您是否因为时局困难而有了惧意，否则怎么如此欠考虑！袁绍确实有吞并天下的志向，但以他的才智，能做得到吗？！将军您真的甘心做他的下属，当一辈子韩信彭越(有朝一日，被剁成馒头馅？)？兖州虽然丢失，仍有三个县在我们手里；忠于您的精兵猛将，不下万人。以将军您的神武，在荀彧和我的精心辅佐下，完全可以成就霸业！希望您能重新考虑！”曹操得到这一番鼓舞，当即断绝了投靠袁绍的念头，决心以这三个县争霸天下。
曹操走了，风烛残年的陶谦经不起这一番折腾，也病倒了。于是，谁来继任徐州牧就成了问题。临终前，陶谦告诉部下，只有刘备能够胜任。对比一下刘焉孙策袁绍，陶谦是唯一一个没有让自己的亲属继承位置的人。或许，陶谦确实高风亮节，或许，他的子女们确实不肖吧。有了陶谦的遗嘱，有了糜竺陈登孔融等人的支持，刘备推辞一番后，掌管了徐州。
T
兴平二年（公元195年）正月，沉寂了四个月的兖州再次起了硝烟。在定陶，曹操击败吕布。夏天，在巨野又击斩吕布的部将，兖州的战局越来越有利于曹操。这时候，曹操却突发奇想，要一鼓作气地攻占徐州，然后再回来收拾吕布这个杂种。荀彧觉得不妥，就劝告曹操：“当年汉高祖保守关中，光武帝经营河内，无不尽心竭力以至根深蒂固。这样，进可以逐鹿中原，退可以割据一方。因此，虽然他们都曾有过一时的窘迫，却都成就了一世的霸业。将军您本来依靠兖州起家，屡次平定叛乱，百姓无不心悦诚服。况且黄河一带是天下的要地，如今虽然遭到兵革之灾略显残破，仍然自保有余，这就是将军您的关中河内，不能不先平定。如今，我们已经击败吕布的部将，如果继续向东攻击陈宫，陈宫一定不敢来骚扰，我们就可以趁机把麦子割了充实军粮，就有了击败吕布的把握。击败吕布后，可以结交南方扬州的诸侯讨伐袁术，我们就可以驰骋于淮泗之间。如果放过吕布而向东攻击，兵留多了则讨伐乏力，兵留少了则吕布趁机暴乱，大家只有保卫城池的分，难以维持正常生产。只有当年没有反叛的三个县有保证，兖州又将被吕布夺走。万一不能攻克徐州，将军能回到哪里呢？陶谦虽然死了，徐州未必容易攻克。他们昔年屡战屡败，如今必然团结死守，坚壁清野。攻城不拔，又没有缴获，用不了十天，即使有十万大军也将困苦不堪。上次征讨徐州，威罚并行。他们的子弟不会这么快忘记父兄的仇恨，不会归降。就算攻克城池也获得不了人心，不能算攻了下来。事情有彼此，大小，安危之分，希望将军您能够好好考虑。”这一番分析，在情在理，有宏观的战略设想又有具体的战术目标，于是，曹操停止了东征徐州的计划，集中精力治理兖州。曹操分兵收割军粮后，吕布陈宫看到曹操兵力分散，认为是好机会，又率领了一万人马要来和曹操决一死战。结果，被曹操设下埋伏杀得大败。这一仗吕布伤筋动骨，从此再也无法在兖州立足，就和张邈陈宫等人东逃徐州投奔了刘备。兖州又回到了曹操的手中。