其实，不仅仅是摩根，华尔街的很多投机家都意识到了这一点，他们为了争夺最好的铁路线路，早就展开了一系列的争夺战。但与他们不同的是，摩根并没有草率地采取行动，而是一直在旁边静观混战。
1869年，一个期盼已久的时机终于到来了。此时，华尔街正在上演萨斯科哈那铁路之争。萨斯科哈那铁路是联结美国东部工业城市与煤炭基地的大动脉。这条由纽约州首府奥尔巴尼到宾夕法尼亚州北部的宾加姆顿的铁路，全长220多公里，其南接伊利铁路，西达美国中部重镇芝加哥，是较为重要的钢铁和石油运输线路，而铁路的终点站宾加姆顿城有许多捷径可以通往各煤炭产地，因此是著名的煤炭集散地。所以，这条铁路在华尔街相当值钱，具有极其重要的战略地位。
当时，抢夺这条铁路的所有权为两大竞争者，一方是投机业上独霸华尔街的年轻投机者乔伊·古德尔团体，另一方是原萨斯科哈那铁路公司的拉姆杰集团。这场战役是由乔伊·古德尔首先发起的，他联合了自己的朋友吉姆·费斯克，意图要夺取萨斯科哈那铁路的控制权。这两个年轻的投机者都是凶狠的角色，他们智谋过人，善于玩弄伎俩，很多大投资家都败在他们手下。
果然，这回他们再次耍弄了毒招。恰逢华盛顿的金融紧缩政策，他们利用一些莫须有的交换债券，使铁路半数左右的股份落入自己手中。同时，他们还买通了纽约法院的两位法官，要求他们在萨斯科哈那铁路股东大会召开前夕查封该公司，并将总裁拉姆杰拉下台。
然后，他们便着手准备通过倒弄手中的铁路股票，将萨斯科哈那铁路纳为己有。拉姆杰见自己斗不过这两个狠毒的家伙，便求助于华尔街年轻的金融投资家摩根。对于插手萨斯科哈那铁路的事情，摩根并没有立即答应下来，因为他在思考该开口向拉姆杰要多少酬劳。最后，他对拉姆杰说，可以帮忙抢回萨斯科哈那铁路，但要成为这条铁路公司的股东之一。拉杰姆一听，毫不犹豫地答应了，并许诺事成之后专门发行3000股新股送给摩根及相关的人士。
经过一场畅快的交谈，摩根就这样入主了萨斯科哈那铁路公司，同时，他也的确为拉姆杰谋划出了最好的解决方案——上法庭。摩根将自己熟知的几位律师介绍给拉姆杰，并许诺一定能够利用法律手段将铁路的所有权夺回。
当拉姆杰再次站在法庭上时，他的对手却已经怯懦了。很快，通过法律的手段，拉姆杰官复原职。而下一个要面对的就是股东大会的问题，现在，乔伊·古德尔和吉姆·费斯克也算是股东之一，可这两个人不会乖乖就范。摩根和拉姆杰猜测古德尔及其同伙可能会在股东大会上以武力威胁股东，实现自己控制公司的目的，而那也是他们所担心的。
股东大会召开当天，吉姆·费斯克早早地就带着许多全副武装的侍卫围在会场，威胁的意图非常明显。突然，戏剧性的一幕发生了，会场大厅入口突然传来一声断喝： “费斯克，不要动！”随即，许多身着灰制服的奥尔巴尼郡警察将吉姆·费斯克团团围住，并将其逮捕。在众人还没有回过神的时候，费斯克已经被带走了。
乔伊·古德尔的计划自然泡汤了，股东大会顺利地举行。在会上，拉姆杰继续担任总裁职务，而他则任命摩根为萨斯科哈那铁路的副总裁。当这位新上任的高官走出会议大厅时，不禁大笑。后来，人们才知道，逮捕费斯克的人都是摩根花钱雇来的，什么“警察局局长”和“警察”都是演戏的冒牌货，而这一幕也成为人们日后的笑谈。
此案了结之后，摩根逐渐掌握了萨斯科哈那铁路的实权，取代了拉姆杰，他在商界的知名度也迅速提高。
1879 年，摩根收购纽约中央铁路的大部分股份，并掌握其控股权。这时他发现，凭借目前拥有的铁路投资，离自己的梦想——建立统一垄断的铁路企业不远了。尤其是在这次收购中，他出色果敢的表现使他赢得了华尔街金融家们的信任和肯定，也为他的下一步举措做了良好的铺垫。
基于当时铁路业尚无规制的背景，铁路的建设非常不规范，质量参差不齐，因此，摩根萌生了统合铁路，共同规划、治理的想法。倘若他能让美国的铁路动脉形成一个具有强大张力的网状市场，就一定能提高铁路运输的效率，并让铁路行业得到更快的发展。
想法一经敲定，摩根便立即采取行动。经过仔细的分析，他将目光投向了美国西海岸的铁路。这是一条入不敷出的铁路，由于它和纽约中央铁路相平行，因此几乎没有什么收入，但是如果将它拓展一下，向芝加哥和加利福尼亚州进行延伸的话，它就可能成为五大湖地区最大的运输动脉。如果能够将它据为己有，那么迟早它会带来丰厚的回报。
摩根让自己手下立即去弄清楚西海岸铁路的股东成员，没想到竟发现已经有人抢先一步要购买西海岸铁路，而买卖契约已经在暗暗进行了。由于经营不善，西海岸铁路已面临破产，宾夕法尼亚铁路董事长罗勃兹出手买下了相应的股份。
这个消息听起来非常不利，倘若乔治·罗勃兹也看到了这条铁路蕴藏的价值，那么总有一天这条铁路会同摩根控股的纽约中央铁路相抗衡。
为了阻止乔治·罗勃兹，摩根决定亲自游说罗勃兹。在一个周末，他约罗勃兹到自己的海盗号船上做客，并大摆鸿门宴。
可想而知，交谈进行得并不顺利，罗勃兹的态度非常强硬，没有退让的意思。到最后，摩根已经没有耐心再同他耗下去了，此时，他直截了当地要罗勃兹开个价码，以求能将问题速战速决。罗勃兹自然不会放过这个机会，他让摩根付出相当于买下一个南宾夕法尼亚铁路的代价。
不过，摩根认为这一切还是值得的，他在购买了这条铁路后，消除了铁路企业之间的竞争，并提高了铁路的运费，这场看似赔本的生意最终为他带来了难以计数的赢利。在此基础上，摩根正式开展了自己的铁路改组计划，并于1900 年，完成了将近20 余条铁路线的改造，形成了“摩根化体制”。至此，摩根已经在美国铁路界雄踞首位。
在与卡内基、洛克菲勒的三国演义中问鼎天下
因为曾经历过贫困，有过刻骨铭心的记忆，所以即使富有了之后，摩根依然没有安全感。他深深地知道，抓在手里的才是属于他的，抓住越多的东西安全感才会越强。为了填补心里的不安，他不停地追逐着财富，毫不满足。
很快，他又把目光投向钢铁业。从19世纪后半期开始，由于美国经济的飞速发展，工业化进程越来越快，钢铁时代很快就来临了。
为此，摩根创办了自己的第一家钢铁企业——联邦钢铁公司。经营初期，公司因缺乏经验而屡出问题，但经过几年的拼搏，联邦钢铁公司在钢铁界中已经有了一席之地。根据当时业内的排行榜，排在第一位的是钢铁大王卡内基，第二位是摩根，第三位是洛克菲勒。
一山不能容二虎，摩根与卡内基一向交恶。当摩根雄心勃勃，想控制美国整个钢铁业的时候，更觉得横在路中的卡内基是个讨厌的庞然大物。
但是卡内基并非想象中那么强大，因为他的心很脆弱，并且已经碎了，他想隐退了。正当摩根精力相当充沛的时候，卡内基接二连三地遭受失去亲人的打击，先是他亲密合作的弟弟和最敬爱母亲相继去世，之后由于工厂发生熔炉爆炸，他又失去了最可信赖的助手琼斯厂长。
接踵而来的沉重打击，使卡内基开始变得很消极：我从一个织布工人的儿子、一个穷光蛋发展到现在，原本应该很幸福，可为什么上帝却带走了我最亲的人？难道是聚敛这些财富给我带来的罪孽？最后，他得出了一个结论：“富人如果不能运用他所聚敛的财富来为社会谋福利，那么就是死去时也是不安稳的。”出于种种考虑，卡内基决定放弃事业。
为了处理掉手中企业的股票，卡耐基四处寻找买家，但似乎除了摩根和洛克菲勒能接手这个企业外，其他钢铁公司根本无力将其运营起来。不过，由于两人一向交恶，卡耐基压根就没想过要将企业卖给摩根。
卡内基很想把公司卖给洛克菲勒，但是此时的洛克菲勒正忙得团团转，忙着控制世界石油的生产与买卖，还刚刚因为投资俄亥俄新矿山的失败被骤然而起的反托拉斯的风潮首先选中，首当其冲地成为被责难的对象，被搞得焦头烂额、自顾不暇，哪里还有心思来考虑卡内基的那份事业？
没有永远的敌人，只有永远的利益，这是永恒的真理。摩根非常明白。世界上没有攻不破的堡垒，因为堡垒一般都是从内部攻破的。摩根很细心地在寻找着这座堡垒的缝隙。很快他就发现，与卡内基一样讨厌摩根的总裁佛里克辞职了，卡内基的新总裁许瓦布与他的女儿路易丝的丈夫是熟识。有的时候真的是人际关系决定成功，透过这层关系，摩根和卡耐基这两个“死对头”没有理由不走到一起。
接下来，一切都开始朝着摩根希望的方向发展。许瓦布应邀到纽约大学俱乐部演讲时，很“凑巧”地与摩根邻座，两人交谈甚欢。大学俱乐部晚宴一结束，摩根迫不及待地将许瓦布邀请到坐落在华尔街的办公室里，两人一直恳谈到深夜。几天后，摩根再次邀请许瓦布进行畅谈。
之后的事情就更加顺利了。卡内基从斯吉伯堡回来后，与许瓦布打了一场球。卡内基在一张纸上潦草地写下了“一元五角”，即，只要摩根肯出时价的1.5倍，他就卖。据当时的资料记载，这笔交易涉及的金钱高达4亿美元以上！
1901年4月1日，正好是愚人节那天，摩根正式收购卡耐基的钢铁企业，U·S·钢铁正式宣告成立。该公司以8.5亿美元的资金牢牢地占据钢铁业的榜首。如此规模的钢铁大联合，可以说是美利坚合众国历史上仅有的，而摩根就是这次钢铁大合并中最闪耀的人物。
一个成功往往是和另外一个成功相连的，这就是为什么有的人运气差的时候一衰到底，运气好的时候连连好运的重要原因。有的时候，一个成功会“逼迫”着你必须去获取另外一个成功，摩根就是这样的。在收购了卡内基的钢铁公司之后，他马上就发现原料不足，必须去洛克菲勒那里再吃一口，因为洛克菲勒拥有五大湖矿。
摩根盘算了一下洛克菲勒所拥有的铁矿资源，其中，数检瑟比矿山最吸引人，它是全美最大的铁矿山，藏量可以满足全美 60％的需求，且矿质优良，可位居全美首位。久经思虑，摩根决定买下这个矿山。