徐州陶谦病重，乃请糜竺、陈登商议大事。糜竺曰：“曹操兵退，乃因吕布袭兖州之故也，它日若破了吕布，其必复来，今使君病重，可再让徐州。”陶谦即使人往请。玄德至。陶谦卧榻曰：“今我病笃，望明公垂慈徐州百姓，受领牌印，谦死亦能瞑目矣。”玄德曰：“公有二子，何不传之？”陶谦曰：“长子商，次子应，皆不堪任，若继重位，必祸己害人。”玄德曰：“备担此任，深感力孤。”陶谦曰：“北海人孙乾，字公佑，可为从事。”又谓糜竺曰：“刘公乃当世英雄，汝当善事之。”言讫，以手指心而死，时年六十三岁。众官举哀。玄德受牌印，领徐州事，用孙乾、糜竺为辅佐，陈登为幕僚。一面出榜安民，一面安排丧事。丧礼毕，葬陶恭祖于古黄之原。
时，曹孟德在鄄城，心情郁闷。兵伐徐州半途而废，兖州丢失，兵败濮阳，又遭大旱，兵马无粮，真是山重水复，前路茫然。忽袁绍使者至，请操迁往邺城，操欲从之。恰，程昱外出归，忙进谏曰：“明公临难而惧乎？不然，何虑事不周也？袁绍据燕赵之地，早有并天下之心，而智不济。明公自度，能为其下乎？今兖州虽失，尚有三城，能战之士，不下万人，以明公之神武，有文若、奉孝，与某等助，王霸之业可成，明公慎思之。”操遂拒绍请。
忽闻陶谦病故，刘备坐领徐州。曹操勃然怒曰：“我大仇未报，丢失兖州，他却不费一箭，坐领州郡，誓先杀刘备，后戳谦尸！”遂传号令，克日起兵。荀彧入谏曰：“昔，高祖保关中，光武据河内，皆深根固本以制天下，其进可以胜敌，退可以坚守，故尔，虽有困，终成大业。明公之本在兖州，况，河济之地，天下之要，乃明公之关中、河内也。今若去取徐州，多留兵，则不能克，少留兵，吕布必乘虚来寇。若无兖州之地，徐州又久战不下，明公何所归乎？今陶谦虽亡，刘备守之，徐州士民既已服备，必助其死战，可速下乎？明公弃兖州而取徐州，是弃大取小，移安而处危也，望明公熟思之。”曹操笑曰：“文若所言极是。然，今岁年荒，坐守于此，终非良策。”荀彧曰：“不如南略陈地，取食汝、颍。黄巾余党何仪、黄劭盘踞于此，劫掠郡县，颇有钱粮。此等贼众易破，破而取其粮，以养三军。此举，朝廷喜，百姓悦，乃顺天应人之事也。”操闻言大喜，乃留夏侯惇、曹仁守三城，遂引兵南略。
兴平元年十二月，曹操兵至汝南，黄巾何仪引众来迎，两军会于羊山。时贼兵十万，然，俱是乌合之众，一无队形。贼仗势大，漫山遍野，呼啸掩来，操令弓弩射住贼势。何仪命副将出战。不三合，被典韦一戟刺于马下，曹操乘势杀过羊山下寨。
次日，黄劭引军来战。阵对处，一将身长九尺开外，头裹黄巾，身穿绿袄，手提一根混铁棍，徒步阵前叫曰：“我乃‘截天夜叉’何曼是也，谁敢与我大战三百合！”曹洪飞身下马，提刀步出。二人阵前刀棍厮杀，大战四五十合，胜负未分。曹洪用拖刀计，诈败而走，何曼赶来，曹洪忽转身，何曼眼瞧不及，被砍翻在地。李典飞马直入贼阵，黄劭不及措手，被生擒活拿。曹操驱兵掩杀，贼众抛旗弃鼓，四散溃逃。操得金帛粮米无数。
何仪引数百骑，逃至新蔡县西北葛陂，忽见山后撞出一簇人马，拦住去路，为首大汉，腰粗十围，手提大砍刀。何仪挺枪上迎，只一合，被大汉生擒活拿。众随骑大惊，皆下马受缚。大汉将其尽驱入葛陂坞中。
典韦追何仪，亦至葛陂，大汉又引人截住。典韦曰：“你是黄巾贼耶？”大汉曰：“黄巾数百骑，皆被我擒在坞内。”典韦曰：“我正是追黄巾至此，何不献出？”大汉曰：“你若赢了我手中大刀，我即献出。”典韦大怒，舞双戟来战。二人一场厮杀，自辰时至午时，不分高下。马乏，各自稍歇。不一时，大汉又出挑战，两人杀到黄昏，马乏暂住。
军士飞报曹操。曹孟德大惊，忙引众将前来。次日，大汉又来挑战。曹操见其人，熊体虎背，相貌雄异，心中大喜，遂有收降之意，乃吩咐典韦，此战诈败。典韦纵马而出，战至三十余合，败走回阵。壮汉赶至阵前，被弓弩射回。曹操军退五里，使人掘下陷坑。
次日天明，典韦引百余骑前出。大汉笑曰：“手下败将，还敢再来？”走马交战，斗十余合，典韦诈败而走。壮汉拍马来赶，忽觉天旋地转，连人带马坠入陷坑。挠钩纷下，将其钩出，绳捆索绑，押见曹操。操喝退军士，亲解其绑，扶于坐，赐酒压惊。问其名姓。大汉曰：“我乃谯国谯县人也，姓许名褚、字仲康，因遭匪乱，聚宗族数百人，于此筑壁成坞，以御贼寇。一日贼至，众人取石，褚飞石击之，石无虚发，贼惧而退。坞中无粮，乃与贼约，以牛换米。米送到，贼驱牛至坞外，牛皆奔回。我双手扯二牛尾，倒行百余步，贼众大惊而走，不敢再来。”曹操笑曰：“我闻大名久矣，愿降我否？”许褚曰：“得投明公，褚之愿也！”操大喜，即拜许褚为都尉，厚赐金帛。遂将何仪、黄劭斩首号令，汝南、颍川皆平。
兴平二年夏四月，曹操班师。曹仁、夏侯惇迎见操曰：“兖州兵马出外抢掠，城中空虚，若引得胜之师攻之，一鼓可下也！”曹操遂引兵直奔兖州。薛兰、李封大惊，引兵出迎。两军对阵，许褚曰：“我愿斩此二人，以为投效之礼。”操大喜，令其出战。李封挺画戟上迎，交锋两合，被许褚一刀劈于马下。薛兰大惊，拨马急走，马近吊桥被李典拦住。薛兰拨马欲奔巨野，吕虔赶来，一箭射落马下，军兵溃散。曹操复得兖州城，即令许褚、典韦为先锋，夏侯惇、夏侯渊为左军，李典、乐进为右军，于禁、吕虔为合后，操自领中军，浩浩荡荡杀奔濮阳。
吕布欲出迎战，陈宫谏曰：“不妥。曹操引得胜之兵复来，锐气正盛，待我众将皆回，方可出战。”吕布怒曰：“我胯下赤兔马，掌中方天戟，谁人能敌！”遂出兵列阵。许褚出战，杀二十余合，不见胜负。曹操曰：“吕布非一人可胜，众将齐战。”典韦舞双戟一马当先，左有夏侯惇、夏侯渊，右有乐进、李典，纵马齐上。六将共战吕布，刀枪纷下，鉄戟又戳，吕布遮拦不住，拨马回城。城上田氏拽起吊桥，高声呼曰：“我已降曹将军矣。”吕布气红双目，破口大骂，只好引军奔走定陶。陈宫保着吕布家小急出南门。曹操遂得濮阳，恕田氏下诈书之罪。
刘晔进言曰：“吕布，猛虎也，今日困乏，不可稍纵。”曹操即令刘晔等守濮阳，自引军马赶至定陶。定陶，乃上古之城，尧舜时为古陶国，城高墙厚，易守难攻。时，吕布、高顺、成廉、张邈、张超俱在城中，张辽、臧覇、侯成在外打粮未归。曹操兵至城下，见城高壕深，遂退军四十里下寨。
时值炎夏，济阴麦熟，操令军兵割麦为食。细作报入定陶，吕布大怒，引军来战。将近操寨，见右边一侧林木茂盛，布疑有伏兵，遂引军而回。操谓众将曰：“布疑林中有伏兵，可于林内多插旌旗以惑之，林西一带，长堤无水，可埋伏人马。明日，吕布必来烧林，伏兵尽出，先断其归路，然后击之。”于是，只留金鼓手五十余人于寨中，兵马尽伏长堤内。
吕布回报陈宫。陈宫曰：“曹操多诈，不可轻出，只易坚守。”吕布曰：“勿忧，我用火攻，可破伏兵，此一战誓擒操贼！”次日，留陈宫、高顺、张超守城，布引大军而进。遥见林中，旌旗隐约，乃驱兵大进，四处纵火。风呼火卷，烈焰冲天，竟不见一卒。吕布大恼，引兵直奔操寨，忽听身后金鼓大作，伏兵尽出，夏侯惇、夏侯渊、乐进、李典、许褚、典韦并马杀来。吕布料敌不过，落荒而走，部将成廉，被乐进一箭射死，布折兵过半，欲回定陶，路又被断，无奈引兵而去。陈宫闻报曰：“空城难守，不如速去。”遂与高顺保着吕布家小，弃定陶而走。操驱得胜之兵，杀入城中，势如破竹。张超自刎城上，张邈慌走寿春。自此，兖州全境，皆被平复。
吕布走至成武县，勒马竖旗，收聚败军，在外诸将亦先后来会。布欲再与操战，陈宫曰：“我兵连败，士气尽挫，先寻安身之所，再作良图。”吕布曰：“当投何处？”陈宫曰：“刘备新领徐州，正是用人之际，可往投之。”布遂引兵马，径往徐州。