石遵在行进途中，还派人不断的散发檄文，很快，洛州刺史刘国便率领洛阳守军前来投奔石遵，一时间沿途郡县纷纷向石遵投降。

到了五月中旬，石遵的兵锋直指邺城，同时派石遵派石闵（即冉闵）担任先锋，张豺得知消息之后，大惊失色，想要带兵固守，但是他麾下的士卒百姓早已经不愿意再为他效力，纷纷出城前去向石遵投降。

张豺和已经晋升为太后的刘氏见状，纷纷大惊失色，刘氏还想要通过给石遵加官晋爵来换取他的臣服。

结果三天之后，石遵便亲率大军抵达，随后在安阳亭将张豺、刘氏和石世三人诛杀。

随后，石遵便在群臣的拥戴之下，在太武殿继承皇位，举行大赦，结果在接下来的两个月内，洪水、冰雹不断，整个（后）赵国内一片人心惶惶。

而此时，石虎的第五子沛王石冲正驻守在蓟城，得知石遵杀石世自立之后，石冲当即召集麾下诸将对他们说道：“石世乃是先帝亲自册立的太子，石遵作为一个藩王居然敢擅自废杀了他，立刻整顿兵马，本王要亲自率兵讨伐石遵。”

石冲当即点齐五万兵马朝着邺城出发，抵达常山郡之后，石冲的麾下已经聚集了十余万兵马。

石遵得知石冲率领大军前来，担忧不已，立刻派使者前去劝说石冲，并表示只要石冲肯退兵，他就给予石冲尊权重兵。

石冲见状，于是心中便萌生了退兵的打算，随后，他便召集诸将说：“石遵和石世都是本王的弟弟，如今石世已死，即使是我杀了石遵，石世也不得复生，兄弟之间何必刀剑相向呢，”我们不如回去算了。”

结果石冲的打算遭到了麾下诸将的一致反对，石冲见状无奈，只得继续率兵前进。

抵达邺城外围之后，石遵又派遣王擢前去劝说石冲，但是遭到了石冲的拒绝，石遵无奈，派遣石闵和李农前去迎战石冲。

石闵和石冲在平棘展开大战，石冲被石闵击败斩杀。

就在石冲和石遵相互攻伐的时候，镇守长安的石虎第六子乐平王石苞也觊觎帝位，遂在长安准备起兵争夺帝位，因为石苞性格贪婪，有勇无谋，其麾下左长史石光等人纷纷劝谏他。

结果石苞根本不听，反而是诛杀了石光等人，使得长安民心离乱。

关中诸豪族为了保全自己，也派人私下和晋国的梁州刺史司马勋私通，司马勋当即率领大军北上，准备收复长安，石苞见状，只得先率兵抵御司马勋。

而石遵也得知了石苞准备起兵争夺帝位的消息，当即派遣车骑将军王朗率兵两万打着抵御司马勋的旗号杀奔长安而去。

石苞原本就和司马勋交战不利，见王朗率兵前来支援，立刻打开城门迎接王朗入城，结果王朗一入城就把石苞抓捕了起来，然后派人押解到了邺城，随后石苞就被石遵处死。