正当曹操在战场上节节胜利之际，兖州内部却发生了一场政变，形势急转直下。曹操不得不匆忙撤军，赶回兖州以应对这场危机。

另一边的征西将军马腾，久居凉州，麾下兵马众多，实力雄厚。兴平元年（公元 194年）三月，他率领军队进入长安，拜见汉献帝，并在霸桥驻兵。马腾此行的目的是向皇帝请求，希望能够讨伐李傕，但遭到了李傕的拒绝。

于是，马腾与侍中马宇、左中郎将刘范、谏议大夫种劭、中郎将杜禀等人联合起来，共同进攻李傕。双方的军队在战场上对峙了许多天，战争陷入胶着状态。

与此同时，与马腾一同占据凉州的镇西将军韩遂得知此事后，亲自带领军队赶到长安，试图为双方调解纠纷。然而，令人意外的是，韩遂随后竟然与马腾等人一起全力攻击李傕。

这场激烈的战斗发生在长安以西五十里的长平观，双方展开了一场生死较量。最终，李傕的侄子李利以及樊稠、郭汜等人取得了胜利，他们成功地击败了凉州军。马腾和韩遂只得逃回凉州，而汉朝廷则任命马腾为安狄将军，韩遂为安降将军。

另一边的曹老板让兵马得到休息后，与汉献帝兴平元年（公元 194年），曹操从徐州征讨陶谦胜利而归。在此之前，曹操的父亲曹嵩辞去官职后，回到了家乡谯郡。由于董卓之乱，他被迫前往琅邪避难，但最终却被陶谦杀害。因此，曹操决心要为父报仇，于是决定向东征伐陶谦。夏季，曹操派遣荀彧、程昱两人留守鄄城，并亲自率领军队出征陶谦。曹军接连攻下五座城池，占领了大片土地，一直打到东海郡。随后，曹操回师经过郯县时，陶谦的部下曹豹和刘备在郯县东部驻扎，试图拦截曹军。曹操率军击败了曹豹和刘备的部队，继续进攻并攻克了襄贲。曹军在所经过的地方，大肆杀戮，造成了严重的破坏。

就在曹操正在与陶谦交战之时士兵却报告了一个噩耗，陈留太守张邈和陈宫乘曹操进攻徐州之机，反叛曹操，迎立吕布为兖州牧。曹操与张邈本是好友。曹操从洛阳逃出，曾托庇于张邈，曹操陈留起兵，也曾得其大力帮助，并曾一度隶属于张邈。后曹操出任兖州牧，反居张邈之上，张邈心怀不满，二人渐起疑忌。陈宫为兖州东郡人，后投曹操，曾亲自说服兖州士人立曹操为兖州牧，曹操在兖州的某些作为引起兖州士人的强烈不满，陈宫心不自安，于是陈宫说张邈反叛曹操，迎立吕布。吕布为一时名将，192年时与司徒王允诛杀董卓后，遭李傕、郭汜等进攻，逃出长安，先后逃奔袁术、袁绍等，皆不见客，后路经陈留，被陈宫、张邈等人迎至濮阳，出任兖州牧。陈宫、张邈久在兖州，影响较大，加以曹操大军远在徐州，二人既反，兖州郡县纷纷响应。曹操出征前，将兖州事务交付其司马荀彧处置，荀彧闻讯，急令驻守东郡的大将夏侯惇回军固守州治鄄城，又使寿张令程昱出镇范，东阿二县，拒城坚守，等待曹操回军。曹操在徐州听说兖州生变，火速撤兵回救兖州。