对刘备推崇备至的陈登也力劝刘备出任徐州牧，他对刘备说：今汉室陵迟，海内倾覆，立功立事，在于今日，彼州殷富，户口百万，欲屈使君抚临州事。
陈登说的这么直白，让刘备受宠若惊，他谦虚的说：袁术离徐州不远，家族背景相当了得，可以把徐州让给他。
这时，北海相孔融说话了：袁术是冢中枯骨，何足介意，你赶紧收下，天与不取，悔不可追。为了报答刘备当年的救命之恩，孔融给刘备投了赞成票。
鹬蚌相争，渔翁获利，徐州士族和陶谦势力积怨很深，水火不容，哪一方的人上台，另一方肯定不满，刘备上台，双方都能接受。
刘备出任徐州牧后，为了让百姓休养生息，有个和平的发展环境，他急需获得北方势力最强大的两位大佬的支持。刘备派陈登去见袁绍，向袁绍汇报了徐州的情况：陶谦死了，徐州现在很乱；袁术狼子野心，处处跟你作对，是您的大麻烦，他对徐州虎视眈眈，刘备希望与你联手共同对付袁术。
袁绍见刘备出任徐州牧后，仍当他是大哥，第一时间派人过来跟他会晤，心里很高兴，他对陈宫说：“刘备出任徐州牧，我很高兴，刘备我是了解的，我率领诸侯联军讨伐董卓的时候就认识他了，他弘雅有信义，你们让他当一把手真是太明智了！你回去跟刘备说，让他放心，虽然袁术是我弟弟，如果他去攻打你们，我绝对不会支持这个背信弃义的小人。
曹操此时和吕布在兖州互撕，还没完全收复兖州，曹操听说刘备出任徐州牧，本来想先收拾刘备，然后再去对付吕布，但被荀彧劝住了。不久，曹操见刘备派人来主动示好，便顺水推舟，决定安抚一下这个当年跟着他讨伐董卓的小老弟，曹操表刘备为镇东将军。
搞定了袁绍和曹操这两个大佬以后，刘备可以集中精力对付袁术了。袁术听说刘备出任徐州牧，狂妄叫嚣：“一个织席贩履之辈竟敢领徐州牧，我要将徐州夷为平地。”
公元196年，袁术进攻徐州，刘备留张飞守下邳，自己率军迎战袁术，双方各有胜负，相持月余。这时，张飞和下邳相曹豹起了冲突，张飞率军攻打，曹豹坚守营寨，派人向吕布求救。吕布水陆东进，到下邳西边四十里时，刘备手下中郎将许耽趁夜遣人来见吕布，称“张益德与下邳相曹豹相争，张益德杀死曹豹，城中大乱。”吕布闻言，急行军赶至下邳，趁夜偷袭，击败张飞，俘虏了刘备妻小。
刘备得报，赶往下邳，收拾残部，退往广陵，途遇袁术，为袁术所败。刘备一行困顿至极，麋竺以家财相助，才得以脱困。刘备为救妻小，向吕布求和，吕布表刘备豫州刺史，两人联手对付袁术，吕布将刘备妻小归还，刘备率军回到小沛。
刘备回小沛后不久，袁术命纪灵率三万人攻打小沛，刘备向吕布求救，吕布派人招刘备、纪灵前来，以“辕门射戟”化解此事。
不久，刘备再度召募万余人军队，吕布见刘备势盛，进攻小沛。刘备战败，投奔曹操。程昱和郭嘉皆称刘备有雄才，向曹操建议对刘备动手，曹操不从，给刘备兵马粮草，表刘备豫州牧。
公元198年，吕布派人带着黄金到河内买马，被刘备的兵士劫掠，吕布派高顺和张辽讨伐刘备，曹操派夏侯惇援救，夏侯惇被张辽击败，刘备妻小被掳。刘备逃脱，途中与曹操相遇，与曹操联手进攻吕布。曹军围城两月有余，吕布见大势已去，只好投降，刘备力劝曹操杀了吕布。随后，刘备与曹操回到许昌，被封为左将军。
曹操厚待刘备，与他出则同舆，坐则同席。一天，曹操亲领大军大败袁术，曹操大胜归来，邀请刘备赴宴，宴间，喝高了的曹操突然对刘备说：“当今天下，能称得上是英雄的，只有你和我，像袁绍这些人，不足挂齿。”刘备听后大惊，手一哆嗦，筷子掉落在地，这时，天上打了个响雷，刘备借机对曹操说：“圣人说，迅雷风烈必变，这话真不错，一个响雷，吓我一跳，你看，筷子都给吓掉了。”
曹操低头一看，果然看见刘备的筷子在地上，哈哈大笑，心里暗想：堂堂大丈夫，居然怕打雷，我是不是高看他了？此事过后，曹操对刘备的戒备心没那么强了。
公元199年，车骑将军董承受衣带诏，与王子服、种辑、吴硕等人密谋诛杀曹操，董承邀请刘备加入，刘备以匡扶汉室为己任，见有机会铲除曹操，没有细想就答应了。
一天上午，曹操得知袁术北上投靠袁绍，便对刘备说：“袁术主力已被我消灭，他现在带着残兵败将正前往下邳，想去投奔袁绍，你和他素有仇怨，我现在给你一个复仇的机会，你可带领人马前往下邳去截击他。”
刘备因过于草率答应与董承合谋铲除曹操，一直忐忑不安，因为董承邀请了好几个人参与密谋诛曹，他担心有人泄密，万一事情败露就完蛋了。刘备在曹操身边，自觉伴操如伴虎，一直想离开曹操，苦于找不到借口，现在曹操让他去截击袁术，还不赶紧开溜？
刘备当即领命，火速出发，马不停蹄的赶往下邳。当天下午，郭嘉跟曹操说有人向他告密，说刘备有和董承等人密谋铲除他。曹操听后，赶紧派兵去追刘备，但是，已经追不上了，刘备早已到了下邳。刘备到了下邳后，派人在袁绍的必经之路上严密布防，自己亲领精兵前去追剿袁术。几日后，袁术在溃逃途中呕血暴毙。
袁术死后，刘备率军杀了徐州刺史车胄，留关羽守下邳，率军回小沛。不久，昌豨起兵反曹，刘备积极响应，徐州众多郡县纷纷响应刘备，刘备军队猛增至数万人。刘备知道袁绍对曹操独揽朝政不满已经很久了，刘备派孙乾去说服袁绍反曹，袁绍当即响应，派遣了一支骑兵佐助刘备。