永和六年正月，冉闵想彻底消除石氏，以谶文中有“继赵李”的字样为托辞，便更改国号为卫，改姓李氏，实行大赦，改年号为青龙。
石琨及张举、王朗率领七万士众攻打邺城，冉闵带领千余骑兵，在城北抵抗他们。冉闵手执两刃矛，飞驰进攻，对手应刃而败，斩杀首级三千。
冉闵与李农带领三万骑兵到石渎讨伐张贺度。闰二月，石鉴秘密派遣宦官送信召张沈等，让他们乘虚袭击邺城。宦官把此事报告给冉闵、李农，冉闵、李农驰马速归，废黜石鉴并杀了他，又杀害石虎孙三十八人，把石氏家族全部消灭。
冉闵娶了董家之嫡女，董家富可敌国，加上建康首富范伯阳倾力支持冉闵，更别说冉闵权倾朝野，手握兵权。一时间，冉闵成了这皇朝之中最举足轻重的人。而现在国家动荡，如若没有君主稳住民心，技容易被他国钻了空子。而在大臣们心中，冉闵，是最合适的人选。
同年，冉闵杀死石鉴后，司徒申钟、司空郎阗等四十八人尊冉闵为帝。可冉闵却认为不妥，因为大肆屠杀胡人一事，虽然有人觉得大快人心，但也有少部分人认为冉闵嗜血成性，如若成为君主，定然是暴君。此评判一出，得到了许多人的认可，如若冉闵登基，也不知道会闹出多少争议。
冉闵便想把帝王让给李农，李农与他同生共死，他自然最是了解他的。李农的能力不在他之下，统治国家想必绝不会像石家人那般。而且，石家人已亡，冉闵也多少放下了对帝位的执念。可是，李农却不愿，他说只愿跟随在冉闵身后。
冉闵执意让给李农，李农以死来坚决请求冉闵为帝，于是冉闵于南郊僭登帝位，大赦天下囚犯，改年号为永兴，国号大魏，史称冉魏，并恢复冉姓。追尊祖父冉隆为元皇帝，父亲冉瞻为烈祖高皇帝，尊母亲王氏为皇太后，立其妻董氏为皇后。以李农为太宰、兼任太尉、录尚书事，封为齐王，李农诸子都封为县公。
文官武将进三等官位，封爵各有等级。派人持节赦免各地聚众闹事者，都不归从。
而另一边，石祗听说石鉴已死，便在襄国僭位称帝，各夷据守州郡拥有兵力的头领纷纷响应。冉闵闻声，派遣使者到长江岸边报告东晋说：“叛逆的胡人扰乱了中原，如今已消灭了他们。如果能共同征伐的话，可以派遣军队前来。”朝廷没有答覆。冉闵失望极了，震怒诛杀李农及其三子，同时被杀的还有尚书令王谟、侍中王衍、中常侍严震、赵升等人。东晋庐江太守袁真攻打合肥，拘捕了南蛮校尉桑坦，把百姓迁离而返回。
四月，石祗派其相国石琨带领十万士众攻打邺城，进兵据守邯郸。石祗的镇南将军刘国从繁阳前来与石琨会合。冉闵于邯郸大败石琨，死者数以万计。刘国退驻繁阳。苻健从枋头入关。张贺度、段勤与刘国、靳豚在昌城会合，将要进攻邺城。冉闵派遣尚书左仆射刘群任行台都督，派他的部将王泰、崔通、周成等率领十二万步骑在黄城宿营，冉闵亲自统率精兵八万作为他们的后继，在苍亭展开激战。
姚襄、悦绾、石琨等部三面夹击，石祗猛攻其后，冉闵军大败。冉闵潜伏在襄国行宫，舆十余名骑士逃往邺城。投降的胡人栗特康等收捕了冉胤及左仆射刘琦等送给石祗，石祗把他们全都杀了。
自石虎末年起，冉闵已把仓库积储散发净尽，用以树立自己的恩德。此时与羌胡作战，没有一个月不交锋。青、雍、幽、荆各州迁徙百姓及诸氐、羌、胡、蛮共数百余万人，各自归回本土，在道路上相遇，互相杀害劫掠，加之因饥饿、疾病等死亡，能够抵达家乡的仅有十分之二三。中原各地一片混乱，无人再从事农耕。冉闵对此感到懊悔，杀了法饶父子，肢解其尸体，追赠韦诐为大司徒。
石祗派刘显带领七万士众攻打邺城。当时冉闵潜还邺城，无人知晓，内外议论纷纷，都以为冉闵已死。射声校尉张艾劝冉闵亲出郊祀，以此安定众心，冉闵听从了这个建议，讹传才止息了。
冉闵回到宫中，对左右的人说：“巴奴，我难道要你救命吗！关键要先灭群胡，退而斩掉王泰。”于是带领全部兵马去作战，大败刘显，追击到阳平，斩首三万余级。刘显畏惧，秘密派出使者请求投降，请求杀了石祗来作为报效，冉闵整顿师旅而返回。适逢有人禀报王泰招集秦人，将逃往关中，冉闵大怒，杀王泰，灭他三族。刘显果然杀了石祗及其太宰赵鹿等十余人，把石祗的首级传送到邺城，送来人质请求冉闵保全生命。骠骑将军石宁逃往柏人。冉闵下令在大路口焚烧石祗首级。
“刘显此人不可心口不一，绝不可全信”钟繇蹙眉提醒冉闵道
“自然，刘显此人不仅不可信，还必须得诛杀！”冉闵满目威严，毅然已经是一代帝王。
五月，石祗的兖州刺史刘启以鄄城归顺东晋。七月，刘显又率领士众攻打邺城，冉闵击败了他们的进攻。刘显返回襄国称帝。八月，冉闵的徐州刺史周成、兖州刺史魏统、豫州牧冉遇、荆州刺史乐弘都携城堡归顺东晋。平南将军高崇、征虏将军吕护拘捕了洛州刺史郑系，携三河归顺东晋。慕容彪攻陷中山，杀掉冉闵的宁北白同、幽州刺史刘准，向前燕皇帝慕容恪投降。
永和八年，刘显率众攻伐常山，常山太守苏亥向冉闵告难。冉闵留下手下的大将军蒋干等辅佐太子冉智守