消息传出后，尔朱荣妻子帅领部曲，焚西阳门跑出，屯兵河阴。尔朱荣的堂弟尔朱世隆本来想北奔，为尔朱氏亲信司马子如所止，并还军京师，遣胡骑一千，临城齐声嚎哭索要尔朱荣尸体。大家谁也没有料到尔朱世隆又敢回军，洛阳城只得紧闭四门。
不久，尔朱世隆北遁，沿途烧杀抢掠。尔朱荣的堂侄尔朱兆占据晋阳，尔朱世隆据长子，加上尔朱家庭其他成员纷纷拥兵占地，又推立太原太守长广王元晔做傀儡皇帝。
魏庄帝以元徽为大司马，录尚书事，总统内外大事。元徽原以为尔朱荣一死，其党羽肯定树侄猢狲散，不料尔朱兆、尔朱世隆乱兵四起，贼众日盛，他又惊又恐，束手无策。元徽本性又猜嫉，不想让别的官员超过自己，只是自己和庄帝两人遇事商议，商议整日也想不出所以然来。
尔朱彦伯、尔朱仲远、尔朱世隆兄弟和尔朱兆等四面齐攻都城。十二月，尔朱兆以轻兵倍道兼行，从河桥西涉渡河。魏庄帝本以为黄河天险，水深流急，尔朱兵马不可能这么快过来。天意弄人，那年黄河逢旱，水不过马腹，尔朱兆的兵马一突而入，一直冲到宫门，守门卫士才发觉，搭箭想射，距离已太近不能伤人，于是一齐散逃而去。
魏庄帝慌忙徒步赶出云龙门外，正遇城阳王元徽乘马逃跑，连声呼唤，这位与之共定大计杀尔朱荣的王爷头也不回，径自逃命而去。魏帝束手就擒。
夜晚，魏帝被单独锁在永宁寿楼上，冻得全身发抖，哀求看守兵士向尔朱兆要头巾取暖，尔朱兆根本不理。当夜，尔朱兆在宫内宿营，扑杀尔朱皇后所生的庄帝亲子（孩子正在吃奶，活活摔死，惨绝人伦。怎么也是尔朱荣的亲外孙），遍淫宫内王妃公主。
接着，尔朱兆又在城内纵兵大掠，杀掉临淮王元?⒎堆敉踉宓热恕２痪茫煺浊资职炎劾账烙诮羧斗鹚轮校蹦甓摹Ｍ保稚钡糇鄣闹蹲映铝敉踉怼Ｐ⒆鬯狼埃鳌读僦帐罚?br/>
“权去生道促，忧来死路长。怀恨出国门，含悲入鬼乡。隧门一时闭，幽庭岂复光。思鸟吟青松，哀风吹白杨。昔来闻死苦，何言身自当！”
诗意凄婉，可悲可叹！
三个多月后，尔朱宗族觉得先前所立的长广王元晔宗属疏远，又无人望，改立广陵王元恭为帝，是为节闵帝。跟换东西一样，尔朱家族随即又把刚刚换下的长广王杀掉。
朝廷大臣集合，尔朱世隆主持商议给死去的尔朱荣上谥号，并让大家考虑一下尔朱荣作为贵臣配飨在哪个皇帝的庙中。
司直刘季明说：“（尔朱荣）若配世宗，于时无功；若配肃宗，亲害其母；若配庄帝，为臣不终。以此论之，无所可配。”
尔朱世隆大怒，斥道：“你应该死！”
刘季明答：“我只是依礼而言，如果不合您的心意，杀剐任命。”
尔朱世隆也无奈何。最后决定让尔朱荣配飨孝文帝庙廷，并在首阳山专门为他立庙。庙成不久，被大火烧毁。
尔朱宗族掌权后，公为贪淫，生杀自恣，随意封爵。尔朱天光占所关右，尔朱兆占据并州汾州，尔朱仲远占所徐州、兖州，尔朱世隆重把持朝廷，一家人竟为贪暴，如同虎狼。由此，魏国境内上下对身为契胡种族的尔朱氏恨得咬牙切具，但因其势力强盛不敢违抗。
先前曾劝尔朱荣自立为帝的高欢骗得尔朱兆信任，取得从前葛荣降兵几万人的指挥权，寻机会脱离尔朱兆，另立山头。接着，他公开指责尔朱氏杀害魏庄帝，起兵相击。532年，大破尔朱兆于广河。此时，尔朱家族内部也互相猜忌，尤其是尔朱世隆和尔朱兆争权夺利最为不和。但面对高欢的军力逼迫，尔朱家族最后又联合一处，几个人各自带兵在邺城会师，号二十万众，夹洹水屯兵，准备与高欢决战。
高欢马不过二千，兵不过三万，将士皆有必死的决心。大战开始，高欢属下高敖曹等汉兵奋勇冲杀，一举击溃尔朱家族二十万大军。尔朱度律、尔朱天光等将帅残兵奔逃洛阳。大都督斛斯椿倍道先还，谋划灭掉尔朱一族，墙倒众人推，他们于532年4月入据河桥，尽杀在洛阳的尔朱氏党羽。尔朱天光、尔朱度律将兵进攻，赶上连日连夜大雨，弓矢胶解，人士疲惫已极，于是西逃。尔朱世隆、尔朱彦伯被人抓住，在阊闾门外斩首，首级被送至高欢处。不久，尔朱度律、尔朱天光也被擒获，一道问斩。最后只剩下一个尔朱兆，带着残兵回到老家秀容郡，时常四处抢掠，变成强盗一般的流贼。已成为魏朝丞相的高欢屡次发令要率大军征讨，但连续四次出师又止，尔朱兆很是懈怠，以为近期不会有兵来袭。
533年初，高欢预测到尔朱兆会在年首召开部落会议大宴宾客，先派都督窦泰以精骑驰奔，一日一夜行三百里，高欢自以大军随后，直杀秀容郡。窦泰精兵出现在尔朱兆的家外面，守卫军士已因近日宴饮喝得迷迷糊糊，忽惊高欢军队，一时间惊跑迸散，不是被杀就是投降。尔朱兆逃到荒山老林里面，穷迫无路，让左右下手杀死自己持首投降，左右不忍。于是他自己先杀所乘白马，然后自己在树上套根带子上吊缢死。
至此，尔朱家族主要成员全部归西而去。较魏庄帝被他缢死，尔朱兆自缢的痛苦又多了一层，真是现世报应，时间极速。
撰写《魏书》的魏收对尔朱荣有如下评价，大致公允（老魏收过尔朱氏余留后人的钱财，也有溢美之辞），现收录于此，作为对这个盖世枭雄的一生总结：
尔朱荣属肃宗暴崩，民怨神怒，遂有匡颓拯弊之志，援主逐恶之图，盖天启之也。于时，上下离心，文武解体，咸企忠议之声，俱听桓文之举。劳不汗马，朝野靡然，扶翼懿亲，宗社有主，祀魏配天，不殒旧物。及夫擒葛荣，诛元颢，戮刑杲，剪韩娄，丑奴、宝寅咸枭马市。此诸魁者，或据象魏，或僭号令，人谓秉皇符，身各谋帝业，非徒鼠窃狗盗，一城一聚而已。苟非荣之致力，克夷大难，则不知几人称帝，几人称王也。然则荣之功烈，亦已茂乎。而始则希觎非望，睥睨宸极；终乃灵后、少帝沉流不反。河阴之下，衣冠涂地。此其所以得罪人神，而终于夷戮也。向使荣无奸忍之失，修德义之风，则彭、韦、伊、霍，夫何足数！
无论如何，胡太后和尔朱荣，俊男美女，雌雄双煞，把大好的北魏江山，断送殆尽！