忽必烈即位后不久，就仿效金代制度，在燕京成立了职责为修建宫殿的机构修内司和祗应司。中统四年（1263年），色目人亦黑迭儿建议修琼华岛，忽必烈没有同意。但是，很快他就改变了主意。至元元年（1264年）二月，开始修建琼华岛。⑥（参见《元史》卷四，《世祖纪一》。按，有的记载说：“（中统）四年，修万寿山宫殿，命（鲜卑仲吉）董之。”（《永乐大典》卷二八〇六，《卑》字门鲜卑仲吉条）据此，则中统四年（1263年）已经开始修建了。又有记载说，琼花（华）岛“中统三年修缮之”（陶宗仪：《辍耕录》卷一，《万岁山》），这个时间有待进一步考证。）在这两年间，修内司和祗应司的机构和人员都扩大了。修内司下面原来只有一个大木局，这时增加了小木局、泥厦局、车局、妆钉局、铜局、竹作局、绳局等。祗应司也由原来的三局（油漆、画、裱褙三局）增为五局（增销金、烧红二局）。此外，还成立了“凡精巧之艺，杂作匠户，无不隶焉”①（《元史》卷九〇，《百官志六》）的御用器物局以及窑场、玻璃局和犀象牙局等。从这些机构的设置可以看出，忽必烈已经决定要大规模修建宫殿了。新的广寒殿很快便在原“广寒之废基”②（《国朝文类》卷四七，徐世隆《广寒殿上梁文》广寒殿直到明万历七年（1579年）才全部倒塌，梁上发现金钱“至元通宝”一百二十文。见张居正：《张太岳文集》卷一八，《杂著》。沈德符：《野获编》卷一，《广寒殿》。）上建造了起来。中统五年，也就是至元元年（1264年）十月，忽必烈在“万寿山殿”会见高丽国王，说明新殿此时已经落成。第二年（1265年）十二月，忽必烈命工匠制作了“渎山大玉海”（酒缸），放置在广寒殿里。这个“渎山大玉海”，“玉有白章，随其形刻为鸟兽出没于波涛之状，其大可贮酒三十余石”，在元代一直安置在广寒殿。元朝灭亡以后，“渎山大玉海”也历经沧桑，后来落到皇城内一所道观中作腌菜坛子。清朝乾隆年间被重新发现，移置到北海团城承光殿前亭子内，至今尚存。广寒殿落成以后，一直到至元三年（1266年），修建琼华岛的其他工程还在继续进行。③（参见《元史》卷九九，《兵志二·宿卫》：卷一五四，《洪君祥传》）
在重建琼华岛广寒殿的同时，忽必烈着手组织力量，准备在原燕京城的东北，从头建造一座新的都城。
燕京城旧址，历史悠久，其时已有千余年。忽必烈不在旧城基础上修葺补充，而是另觅新址，主要有两个原因：一是因为燕京城过于残破，特别是原来的宫殿已荡然无存，重新修葺还不如新建来得省事。二是燕京城的水源主要依靠城西莲花池水系，水量不足，“土泉疏恶”①（陆文圭：《墙东类稿》卷一二，《广东道宣慰使都元帅墓志铭》。这是见于文献的关于水源与放弃旧城之间关系的唯一记载），不能满足城市发展的需要。忽必烈决定在原燕京城东北建造新都，也是经过周密考虑的。这里有新修葺的琼华岛，可以作为新城宫殿的基础，同时，琼华岛周围的湖泊，上接高梁河，水源兴旺，较能满足新建城市的需要。②（参见侯仁之：《北京都市发展过程中的水源问题》，载《北京大学学报》（人文科学），1955（1）。）
大都新城的主要设计者是刘秉忠。他是元初政治舞台上一个特殊的人物，原来是一个“刀笔吏”，后来出家当和尚，“博学多材艺”，经佛教临济宗领袖海云的推荐，成了忽必烈的幕僚，受到特殊的宠任。上都开平，是由他选择基址进行设计的。开平建成后，忽必烈“又命秉忠筑中都（即大都———引者）城”③（《元史》卷一五七，《刘秉忠传》）。大都城的整个建造，都是在他“经画指授”④（陆文圭：《墙东类稿》卷一二，《广东道宣慰使都元帅墓志铭》）下进行的。参与城址选择与设计的还有赵秉温，他奉忽必烈之命，“与太保刘公同相宅”，“图上山川形势城郭经纬与夫祖社朝市之位，经营制作之方。帝命有司稽图赴功”⑤（苏天爵：《滋溪文稿》卷二二，《赵文昭公行状》）。具体负责领导修建工程的有汉族将领张柔、张弘略父子⑥（参见《元史》卷一四七，《张柔传附张弘略传》），行工部尚书段桢（段天祐）⑦（参见《元史》卷六，《世祖纪三》），蒙古人野速不花⑧（虞集：《道园学古录》卷二三，《大都城隍庙碑》），女真人高觿⑨（参见虞集：《道园学古录》卷一七，《高鲁王神道碑》按，陆文圭《墙东类稿》卷一二《广东道宣慰使都元帅墓志铭》中所说“命近臣伊苏布哈典其役（营大都———引者）”，伊苏布哈即野速不花。既云“近臣”，恐系怯薛中人员。），色目人也黑迭儿①（参见欧阳玄：《圭斋文集》卷九，《马合马沙碑》。过去有人说也黑迭儿是大都城的主要设计建造者，这是不符合事实的。）等。在这些人中，段桢所起作用比较大，他不仅自始至终参与了大都城的修建工作，而且后来长期担任大都留守，大都城建成后相当长一段时间内城墙、宫殿、官署、河道的维修和增设，也是他负责经管的。
“岁在丁卯，以正月丁未之吉，始城大都。”②（虞集：《道园学古录》卷二三，《大都城隍庙碑》）丁卯是至元四年（1267年），正月丁未是个黄道吉日，就在这一天破土动工。至元十三年（1276年）大都城建成。①（参见《元史》卷一四七，《张弘略传》）至元二十年（1283年），城内的修建基本完成。这一年，元朝政府把旧城的商铺和政府衙门、税务机构等迁入新城。同年，还为大都城门设立负责警卫的门尉。至元二十一年（1284年），建立了管理大都的机构留守司和大都路总管府。到了至元二十二年（1285年），元朝政府又规定了“旧城居民”迁居新城的办法：“以赀高及居职者为先，仍定制以地八亩为一分：其或地过八亩及力不能作室者，皆不得冒据，听民作室。”②（《元史》卷一三，《世祖纪一〇》）大都城的建造工作，历经十余年的时间，可以说至此告一段落。
大都皇城和宫城、宫殿的修造，比大都城要早一些，在至元三年（1266年）就开始了。至元四年（1267年）正月，又专门成立了管理皇城和宫城、宫殿施工的机构提点宫城所。“周回九里三十步”的宫城，是在“至元八年八月十七日申时动工，明年三月十五日即工”③（陶宗仪：《辍耕录》卷二一，《宫阙制度》。按，《元史》卷六《世祖纪三》记，至元五年（1268年）十月戊戌，“宫城成”。何者为是，有待进一步考证。）的。至元十年（1273年），“初建正殿、寝殿、香阁、周庑两翼室”。这指的是最主要的大殿大明殿。至元十一年（1274年）正月，“帝（忽必烈———引者）始御正殿，受皇太子诸王百官朝贺”。同年“起阁南直大殿及东西殿”④（《元史》卷八，《世祖纪五》）。以后仍陆续有所添造。在完成宫城内的宫殿建筑的同时，至元十一年（1274年）四月，“初建东宫”，或称皇太子宫，亦即隆福宫，这也是一组具有很大规模的建筑群，位于皇城西南。到了元代中叶，又修建了另一组建筑群，即兴圣宫，位在隆福宫之后，皇城西北。