说完斩杀刘粲，并给刘粲上谥号为隐皇帝。刘粲遇害享年二十三岁。靳准将刘氏皇族男女全部斩杀于东市。又挖掘刘渊和刘聪的陵墓，斩断刘聪尸身，焚毁刘氏宗庙，凡刘氏之人一一处死，就连刘聪死前七岁的女儿和刘曜的母亲兄长侄女也一同处死。唯独刘曜世子刘胤单骑而逃不知去向。靳准城中粮食集中于皇宫，打算据城固守。城内大臣民众各相奔逃。
后靳准自领平胡大将军、汉天王，亲写表文遣使称臣于晋朝，靳准想把传国玉玺，交由晋人胡嵩送往江东。
对晋元帝称：“贼胡小丑僭越称帝，乱大晋使二帝而亡。今送二帝梓宫于江东。”
胡嵩听闻靳准所言，久久不能平复。突然跪下对靳准说到：“晋天命已故，表文可遣，梓宫可还。玉玺不能还！”不敢送玺。
靳准问道：“为何不送玺？”
胡嵩正要辩解，就被靳准一剑杀了。又派晋人王会带着亲自写的表文去见司马睿。王会路中遭流民抢劫靳准赏的财物皆丢失殆尽。王会到了江东，献贺表。司马睿和江东朝臣听闻看到靳准的表文后更是不解。
司马睿对朝臣说到：“胡人自乱，今竟称臣于朕？”
王导说到：“可派亲臣前去赴会。即使有变，也无大碍。”于是命太常韩胤去试一试，韩胤胆战心惊，只能携带武卫四人和官印前往，路过祖逖驻地见到公孙成说明缘由，公孙成答应策应两千兵护送韩胤。韩胤与靳阳淳交接，王会表示自己要回去复命暂不归晋。于是韩胤接回二帝尸体，带回靳月华亲侄靳阳淳，靳阳淳匈奴人母鲜卑人贺拔氏。自幼习《论语》《庄子》善中原礼仪，为人善作，靳准学识为其所授。司马睿封其为归梓伯，留居建康。让其在朝堂上诉说自长安破后，北方大致状况。靳阳淳一一作答，朝中听闻无不叹息。
正值匈奴内乱，北宫纯和王旷欲整合晋人起义。
二人以“胡人乱晋，永嘉入洛，建平灭晋，事宜此时，当复晋土，应者赐粮。”
为号起义，二人在东宫构筑堡垒。时隔三日，令二人大失所望，响应者不足五百，前来者多半是城中无粮可食的胡人。靳准闻二人之举大笑道：“何有举义师于贼巢之中，此辈愚也岂能成事？”二人势弱，兵败被杀。北宫纯年四十九岁，王旷四十五岁。靳准命人将二人尸首和遗物送还江东，自己亲写墓志铭赠予二人。又命王会将此二人尸首带回。王会苦不堪言，靳准持剑威胁，王会只得从命。路途遭匪劫掠，马匹被抢侍从跑散。只身将二人尸首放置一驴车，前往江东。
中山王刘曜闻靳准叛乱，亲自率领军队由长安出发赴平阳，行至河东郡，遇到了从平阳出逃的太保呼延晏与太傅朱纪。他们劝刘曜称尊号，刘曜遂即帝位，改元光初，当时石勒驻守河北，刘曜封石勒为大将军，同石勒成犄角之势，进攻平阳。靳准慌乱，派侍中卜泰前去讲和。刘曜对他说：“刘粲昏庸无道，汝杀之有功无过。若肯降于我，算汝拥立之功。”靳准闻之，更加则乱。刘曜兄长与母亲，已被靳准暗害，此时靳准欲联合石勒，准备送表文与玉玺。
靳明与靳康催他投降，靳准欲降石勒告知二人。靳明大怒，靳准被靳明所杀，其众共推靳明为主，靳明送传国玺于刘曜，投降刘曜。石勒大怒，派主力急攻平阳，靳明向刘曜求救，刘曜派将迎回靳明。平阳民众一万五千人随靳明归于刘曜，刘曜斩靳明全族不论男女。靳氏族灭。
刘曜称帝，追尊刘渊等历代祖先为帝。迁都长安，修建光世殿和紫光殿。
布诏曰：“曾为琴作书，得神剑，有言立赵自图之。朕今扶刘氏江山，靳准为乱诛前帝，朕为其哀之，今平靳准登大位。昔昭武帝有言【曜有刘秀曹操之才，若宗室临难可自图之】为成昭武帝之志，自领天命于此！
立妻羊献容为皇后，刘熙为皇太子，其余诸子与宗室都封王。修缮宗庙、社稷、南北郊。以五行之说，水德承接晋的金德，改国号为赵。冒顿配天，刘渊配帝，大赦天下。
长水校尉晋人伊车和氐人徐库彭反叛，刘曜先杀尹车诛其三族，伊余单骑逃奔。又囚徐库彭等部，准备全部杀死。光禄大夫游子远叩头固谏请求赦免，刘曜不听，将其全部斩首。这一举动，引起了氐人大怒，起义遍野，推氐人句渠知为领袖，举行起义。羌、氐、羯三万余人，尽皆响应，关中大乱，局势非常紧张。
刘曜对游子远说：“不听汝言致使戎狄肆虐！”
游子远说到：“可予其田粮暂时安抚。”
刘曜只得采用游子远的安抚政策，以游子远为车骑大将军，都督雍秦征讨诸军事。游子远屯军于雍城，降者十余万，遂进军安定，反者皆降。只有句渠知宗党五千余家于阴密固守，游子远用三万匈奴骑，剿灭句渠知宗麾下五千兵马。歼灭了句氏宗族，随后引兵陇右，陈安在郊外迎接游子远。
于上郡的氐、羌十余万人，占关塞不降，其单于虚除权渠自号为秦王，大都督，大单于。游子远于是进兵至虚除权渠城下，权渠率军迎战，五战皆败。权渠欲降，其子和伊余反对，并率五万精兵在清晨进攻游子远军阵。游子远军中将高量请缨出战，游子远认为伊余军队士气正盛，应避之锋芒。于是坚守不出。而伊余自恃人多，军营不设防。游子远趁夜袭，大败伊余。权渠知道后大惧，以羌族风俗披发割面而降。游子远亲自为其包护面伤，虚除权渠感动不已，愁哭下跪。又请求游子远帮他用汉文向刘曜写降文，游子远答应。
游子远平定叛乱，迁徙秦州羌人和氐人贵族，命部分氐人首领担任本部校尉。拜虚除权渠为征西将军、西戎公，分徙伊余兄弟及虚除权渠部落二十余万于长安，西边遂平。游子远，母匈奴人兰氏，父大荔县令游宜，幼时其父早亡。后随其母部族耕种县内，冯翊太守欧阳建在朝被杀时，氐人之乱其母为保幼年游子远将其交于托付于独孤部，独孤佑全负责照料。其本人对隶书、草书、篆书一一精通。常在马鞍中放置《魏无忌兵法》和《战国策》两本书。束发右衽，衣冠如中原士大夫，其麾下士兵束发身穿玄甲。人们看到后误以为是，晋庭的士大夫带兵回到中原。纷纷献上酒食，犒劳游子远之军。
刘曜亲征氐羌，杨难敌迎战不胜，退保仇池。仇池周边氐人、羌人等皆归降刘曜。刘曜西讨杨韬于南安，杨韬惧刘曜，与陇西太守梁勋等降于刘曜，皆封列侯。刘曜使侍中乔豫率甲士五千，迁徙杨韬等及陇右万余户于长安。刘曜继续进攻仇池。时刘曜患病，军中病疫，闻庸医郦毮之言，喝酒趋疫，刘曜带头饮酒，军中士卒个个酩酊大醉，数日不见设防，病亡者更甚。几日后刘曜见军中疫情没有好转，于是想班师，又担心仇池公杨难敌出兵设伏，刘曜以尚书郎王犷为中郎将，出使仇池，劝说杨难敌，杨难敌接受劝降于是遣使称臣。
刘曜大悦，署杨难敌为使持节、侍中、假黄钺、都督益州、宁州、南秦州、凉州、梁州、巴州六州西域诸军事、大将军、领益州、宁州、南秦州三州牧、领南氐校尉、宁羌中郎将、武都王，其宗室十人封伯封侯。宗室之女三人赐君号。列将二千石者十五人，刘曜封杨难敌后班师回京。