一天，朱元璋将一根棘杖掷在地上，让太子朱标拾起。性格柔弱的朱标面有难色，不知所措。朱元璋和颜悦色地开导说：“你怕刺不敢拿，我替你把这些刺拔掉，然后再交给你，岂不更好？！”朱元璋的心腹之“刺”就是那些曾为明王朝立下汗马功劳的权臣勋贵们。
明太祖朱元璋非常喜欢阅读史籍，在他的生活阅历中，史书有着直接的借鉴作用，它给了朱元璋不少历代兴衰的启示。
早在大明王朝建国之前的龙凤十一年（1365年）。某日，朱元璋阅读《宋史》，当读到赵普建议宋太祖“杯酒释兵权”时，不禁击节叹赏。他深有感慨地对一旁的起居注官詹同说道：
（赵）普确实是位贤相，倘若诸位将领不早日交出兵权，那么，宋朝的天下，未必就不会像五代那样动荡不安了！
在历史上，开国将领往往居功自傲，甚至功高震主。如何处置这批人，一直是历代帝王的一块心病。宋太祖的“杯酒释兵权”，不仅消除了悍军骁将拥兵自重、飞扬跋扈的危险，而且还让那些与自己出生入死的功臣元勋得以优游林下，颐养天年。这是成功处理君臣关系的一个范例。不过，处置开国功臣还有另外一类的方略，那就像中国古代的一句警语所云：“飞鸟尽而良弓藏，狡兔死而走狗烹。”这一方略的出现，远在“杯酒释兵权”之前，在历史上也不乏先例。例如，春秋时期越国的大夫文种，西汉的韩信，都为这句警语做了不幸的注脚。朱元璋以一介布衣起事，平生对汉高祖刘邦极为佩服，故而史学家历来就有“明（太）祖行事多仿（效）汉高（祖）”的说法。只是刘邦诛杀的“走狗”毕竟还相当有限，仅止于韩信、彭越和英布等几位“功高震主”的将领，而朱元璋则大开杀戒，将开国功臣杀戮殆尽。
事情得从明代开国前后谈起。公元1368年，朱元璋即位，建都南京，国号大明，年号“洪武”，史称“明太祖”。朱元璋起自淮西，和他出生入死、开国平天下的，绝大多数都出自濠州（今安徽凤阳一带）及其附近地区。其中，开国元勋汤和、周德兴等人还是他的同乡。这些文人武夫或运筹帷幄，或驰逐疆场，为大明江山的奠定立下了汗马功劳。开国之后，朱元璋论功行赏，这些人无不膺有公侯之封。其中，较为著名的有“六国公”、“二十八侯”。特别是韩国公李善长、魏国公徐达等人，地位更是尊崇。这些人以乡土、宗亲和部属关系为纽带，结成了一个盘根错节的淮西朋党集团。所谓“马上短衣多楚客，城中高髻半淮人”就是当时情形的真实写照。
淮西朋党集团中的许多人，官封公侯、爵显禄厚，并经常得到朱元璋赏赐的田地、第宅、畜产甚至人户。然而，这些功勋卓著的公侯之家，并不满足于既得的利益，而是千方百计地扩大已有的特权。他们倚仗权势，侵夺广大百姓的田地、房屋和牲畜，或者强占官地，接受无赖小民的投献。在钦赐的佃田人户和仪仗户之外，还广蓄部曲、私养庄奴，并擅自使役官军，甚至让他们坐贾行商，为自己牟取暴利。这些新贵自恃开国功高，不仅自己骄横跋扈，而且还放纵门下的悍仆豪奴凌暴乡里，鱼肉百姓。对此，朱元璋深感不安。他曾颁发敕令文告，一再告诫功臣不要居功自傲、飞扬跋扈。并将约束的条例铸成铁榜，表示若有违犯，必将严惩不贷。例如，洪武五年（1372年），朱元璋就曾颁布《申戒公侯铁榜文》；十三年（1380年）六月，颁布《臣戒录》；十九年（1386年）十月，颁布《至戒录》；二十一年（1388年）七月，又颁布了《大诰武臣》；二十六年（1393年）三月，再次颁布《稽制录》。……然而，三令五申，并未能完全制止住公侯元勋的横行。
明初的君权与相权之间的剧烈冲突，更激化了统治集团内部的矛盾，由此引发了胡惟庸案和蓝玉案。
洪武六年（1373年），淮西朋党集团的领袖李善长推荐其同乡兼姻亲胡惟庸担任右丞相。洪武十年（1377年）九月，胡惟庸升任左丞相。他做了7年丞相，任期内在朝中遍植朋党，不遗余力地打击异己，使得淮西朋党集团的势力不断膨胀。譬如，浙江青田人刘基（字伯温），曾辅佐朱元璋，立下过汗马功劳，但由于他与淮西朋党集团的矛盾，一直未受重用。洪武三年（1370年），朱元璋大封功臣，刘基仅封为诚意伯，岁禄只有240石。而李善长则功封韩国公，岁禄4000石。翌年，刘基告老还乡。然而，由于他曾对朱元璋说过胡惟庸不宜入相的话，故而深受后者的嫉恨，被借故革去岁禄。洪武八年（1375年），刘基生病，胡惟庸派医生前去看望，但刘基服药后不久便一命归西。对此，朱元璋后来断言道：“刘伯温他在这里，满朝都是（胡）党，只是他一个不从，吃他每（们）蛊了。”蛊，相传是一种由人工培养而成的毒虫，这里指下毒。显然，刘伯温是遭到胡惟庸的毒手而命归黄泉的。当然，排斥异己还不是胡惟庸案的关键所在。
事实上，胡惟庸案的症结在于——他为人过于独断专行，许多生杀黜陟等重大事件，他往往不向朱元璋请示，就擅自加以处理。这自然让权力欲极强的朱元璋，深感宰相专权、皇权旁落的危机。朱元璋曾总结历史教训：
自从秦朝设立丞相一职以后，辅臣狐假虎威，宰相权重，于是出现了“指鹿为马”那样的事情。自秦以下的历代帝王，均不曾借鉴秦朝设相的危害，而是相继沿袭未改，从而对君王的统治构成了威胁，其原因就在于丞相的擅专威福。
对此，朱元璋积极采取裁抑相权的措施。如在洪武十一年（1378年），就曾下令臣下奏事，此后毋须通过中书省，而应径直禀报皇帝本人。然而，胡惟庸擅权的局面并没有因此得以彻底的解决。洪武十二年（1379年）九月，占城（今越南中南部）来贡，胡惟庸和当时的右丞相汪广洋等人匿而不奏，结果被太监告发。明太祖闻知勃然大怒，严词斥责省臣。但胡惟庸和汪广洋将责任推到礼部头上，而礼部则反唇相诘，归咎于中书省。这种相互推诿扯皮，使得朱元璋更为恼火，于是将一干人等全部囚禁起来，让他们招出主谋。不久，汪广洋被处死。接着又以汪广洋曾违法纳没官妇女为妾，下令查究胡惟庸及其六部堂属的罪行。至此，明太祖与胡惟庸朋党的矛盾已趋于白热化。
洪武十三年（1380年），涂节自首上告胡惟庸谋反。明太祖随即下令逮捕胡惟庸、陈宁和涂节等人，并以“擅权枉法”罪加以处死。胡惟庸被杀后，此案并未了结，他的罪名也在不断升级。开始只是说胡惟庸“擅权植党”，后来，又加上了“通倭”、“通虏”和“谋反”等罪名，并不断牵连、扩大化。该案的同谋犯越查越多，牵涉的面也愈来愈广，株连蔓引，持续了数年也未能了结。洪武二十三年（1390年），朱元璋再兴大狱，有《昭示奸党录》布告天下，乘机又杀了几十家的权臣勋贵。李善长、陆仲亨、唐胜宗、费聚、赵庸、黄彬、陆聚、金朝兴、叶升、毛麒、李伯升和丁玉等人，都因与胡惟庸有勾结而被处死。其中位居“勋臣第一”的太师韩国公李善长，在洪武十三年胡惟庸案始发时，因是元勋皇亲，已免于追究，但10年以后，有人以李善长的侄子系胡惟庸的侄女婿，两家往来密切，因而告发李善长与胡惟庸共同谋反，朱元璋顺水推舟，将李善长一家七十余口一律处斩。对此，清人所作的一首《明乐府》这样写道：
李太师，佐命勋，
当日论功称首臣。
胡为身蹈诛夷罪，
毋乃耄荒辜帝恩。
李太师，起刀笔，
虽乏经国才，宁少谋身术。
官为太师爵国公，
富贵谁能逾此翁。
纵使惟庸改玉步，
更有何官加尔躬。
人生富贵思保身，
年高更念子若孙。
太师生平素畏祸，
何至乘危求灭门。
又况事发十年后，
罗织岂乏仇人口。
一家供状二百纸，
将毋逼勒刑官手。
开国元勋犹若斯，
坐令圣代少光辉。
乃知萧何下狱寻常事，
汉祖何为尚见嗤！
这首新乐府认为，李善长被处死完全是一桩冤案。其实，早在李善长死后的第二年，虞部侍郎王国用就曾上书为之辩冤，认为李善长“谋反”的罪名难以成立，他指出：李善长与朱元璋同心协力，出生入死开国平天下，功居勋臣第一，生得封公，死得封王。他的儿子李祺被朱元璋招为驸马，众多的亲戚也纷纷拜官封爵。作为一位人臣，他已安享了万全富贵，其荣誉已臻于极致，绝不会冒险谋反以图侥幸。再者说来，倘若有人说他要图谋不轨，自立为帝，这一罪名或许还能成立。但现在竟说他要襄助胡惟庸谋反，则大谬不然。李善长与胡惟庸只是侄儿、侄女辈的亲家，而与朱元璋却是儿女亲家。不仅两家的亲疏不可同日而语，而且，即使李善长帮助胡惟庸谋反成功，他至多也不过仍是个“勋臣第一”罢了，其地位绝对不会比他在朱元璋手下来得更高。王国用的这些话说得句句在理，连朱元璋也被驳得哑口无言。其实，朱元璋并不是不清楚这一点。他只是利用胡惟庸案大做文章，给自己杀戮功臣制造借口。他以镇压奸党为名，趁机对那些骄横跋扈的文武官员加以整肃，凡是被罗织为胡党的官员。大多被抄家灭族。整个胡案历时约10年，总计杀了3万多人。
洪武二十六年（1393年），朱元璋又以谋反的罪名，诛杀了大将军蓝玉。蓝玉是洪武时期的主要将领之一，洪武二十一年（1388年），他率15万大军出塞追击蒙古军队，直到捕鱼儿海（即今贝尔湖），俘获男女7.7万人，大胜而归。此后，他又多次北征蒙古，立下赫赫战功，被晋封为凉国公，位居大将军之职。蓝玉统兵多年，在军中颇有威望。在蓝玉麾下有骁将十余员，个个勇猛善战。以一介武夫起家的朱元璋，原本就最忌武人拥兵。而蓝玉却自恃功高势大，骄横不法。在军中，他擅自黜陟将校，进止自专，甚至不听君命。某次北征还师，夜扣喜峰关，关吏没有及时接纳，蓝玉就纵兵毁关强行进入，这一举动显然引起了朱元璋的猜忌。在地方上，蓝玉霸占东昌民田，私蓄奴婢，纵奴作恶乡里。此事后为御史举劾，但蓝玉竟怒逐御史。他还让家人私买云南盐1万余引（每引200斤或400斤），进行走私。又因奏请多未采纳，一直对朱元璋心怀不满。这些做法，终于让朱元璋动了杀心。洪武二十六年，锦衣卫指挥蒋瓛告发蓝玉谋反，朱元璋就将他处斩，并族诛了三族。平时与蓝玉关系莫逆的许多将校，也都被定为“逆党”，遭到了抄家灭族的下场。当时因这个案件而被诛杀者多达1.5万人，军中的骁勇将领差不多都被杀戮殆尽。在历史上，通常将胡惟庸案和蓝玉案合称为“胡蓝之狱”。朱元璋借蓝玉案彻底铲除了将权对皇权的潜在威胁，将军权牢牢地控制在自己的手中。随后，他分大都督为左、右、前、后、中五军都督府，与兵部相互制约，以分其权。五军都督府只管军籍和军政，不能直接指挥军队。只有到战时才由皇帝临时任命总兵官，战后总兵官须立即归还将印，所统军队则归驻其原来卫所。从此，诸将奉命唯谨，军权皆出于朝廷，不敢有所专擅。
除“胡蓝之狱”外，朱元璋又以各种罪名诛杀功臣。朱亮祖、胡美、周德兴、王弼、谢成、傅友德和冯胜等人，都先后为明太祖所杀。在淮西朋党集团中，常遇春、胡大海等人在开国之前就已经死去。地位较高的，还剩下徐达和汤和二人。据稗史笔记记载，徐达暮年曾患重病，背部生疽，病愈后医生千叮万嘱，说此病忌食蒸鹅，吃了病会复发，一发便无可救药。洪武十八年（1385年），明太祖因念及功臣，派来内监赐食给徐达，所赐的竟然是只全鹅。徐达明知朱元璋的用心，但君命难违，只得淌着泪水当着使臣的面吃下，果然，没过几天便一命呜呼了。另一位功臣汤和与朱元璋是同村人，小时两人曾一道放过牛，他自然最了解朱元璋的心曲隐微。于是，就主动交出兵权，告老回乡。朱元璋大喜过望，立刻派人到凤阳为他修建府第，厚赐田宅。明初功臣宿将得以善终者寥寥无几，汤和，便是其中幸运的一位。
“胡蓝之狱”等大案前后达十几年，诛杀元勋宿将4，5万余人，将淮西朋党集团的势力根除殆尽。及至洪武末年，开国公侯勋戚所剩无几，曾经煊赫一时的淮西朋党集团，从此退出了明初的政治舞台。对于朱元璋的残酷杀戮功臣，历来有许多人发表过意见。清人赵翼就认为：
（朱元璋）借助诸位功臣之力以取天下，及至天下既定，即将辅助夺取天下之人悉数诛杀，其残忍的程度实千古所未有！
赵翼所言自然是一个事实。不过，我们也应当看到，明太祖镇压淮西新贵势力，解除了对皇权的威胁，在当时的历史条件下，也是完全必要的。它极大地稳定了明初的局势，使得明代新近确立的政治体制得以顺利延续。对此，明太祖与其太子朱标的一段故事颇耐人寻味——朱元璋迭兴大狱，诛杀元勋功臣，太子以为株连过滥。他劝谏道：“陛下杀人太滥，恐伤和气！”朱元璋闻言默不作声。翌日，他故意将一根棘杖丢在地上，让朱标拾起，朱标面有难色。朱元璋便不失时机地开导说：“你怕刺不敢拿，我替你将这些刺拔掉，然后再交给你，岂不更好！”显然，将棘杖上的刺拔掉，一直是朱元璋蕴藏在心底的隐衷：在他看来，太子朱标生性过于懦弱，自己死后未必能镇得住那些元勋宿将，故而有必要在自己生前解决这一难题，消除他们军事叛乱的威胁，以让朱标稳坐皇帝宝座。当然，朱元璋将“胡蓝之狱”作为实行专制独裁、排斥异己的正当理由，也使得明初的君臣关系大为紧张。大批的诛杀，让朝廷上下的文武官吏人人自危。据说，当时的京官在每天早晨入朝之前，总要与妻儿诀别，交代后事。及至傍晚平安归来，便阖家庆幸，以为又多活了一天。大兴“胡蓝之狱”，也使得朝廷的元气大受损伤，造成了朝廷将才的极度缺乏以及中央军事实力的削弱，客观上形成了中央与藩王军事实力对比上的不平衡。建文年间当“靖难之役”突发之时，明惠帝几乎找不到合适的统兵之将，“蜀中无大将，廖化当先锋”，年逾花甲的耿炳文率师迎战，屡屡败绩。于是，明初的政局发生了戏剧性的变化。
朱元璋在大兴党狱、翦除功臣势力的同时，又将自己的儿子封为藩王，企图依靠封建藩王保持政权的长治久安。他分封诸子为藩王，主要是捍御外患，襄辅王室。对于前者，当时边防的重点在于对付北元蒙古势力，故而沿着长城内外，明初择其险要之区分封了9个藩王。其他分封内地的藩王，则分驻各省要冲，世袭镇守。他虽然对藩王也做了不治民事、不授封土等等限制，但他惑于封藩能收到羽翼朝廷、巩固边防的作用，便日益加重藩王的权力。在政治上授予藩王自置官属及移文朝廷索取奸臣的权力，甚至出兵“清君侧”的特权：经济上赐给他们大量良田与巨额禄米；军事上则拥有护卫甲士，少者三千，多者数万。随着诸王权势的膨胀，与中央政府的离心力量愈来愈大。及至朱元璋一死，由分封制种下的恶果，随即使得中央集权与地方分权的矛盾由隐蔽转为公开。在他死后不久，就发生了“靖难之役”。夺取建文帝皇位的不是朱元璋先前耿耿于怀的功臣宿将，而是他亲自培植起来的藩王，这是“雄猜好杀”的朱元璋所始料未及的。