姚思廉是雍州万年县人，他的父亲姚察原是陈朝的吏部尚书，陈亡后，入隋为官，历任太子内舍人、秘书丞等职，把家也从江南吴兴搬到西京近郊万年县。
姚察对儒学和史学都有很深的研究，学问精深，品格正直，在陈、隋两代都很受推重。姚思廉全面继承了他父亲的优点，他从小跟随父亲学习汉史，尽得家传。他清心寡欲，一心向学，从来不提起产业和家室之类的事情，几乎是两耳不闻窗外事，一心只读圣贤书。在陈朝时，姚思廉曾任扬州主簿，入隋后为汉王府参军。不久，他的父亲姚察去世，他丁父忧解职。
姚察在陈代曾打算修编梁史和陈史，但由于时局变乱未能完成。他临终时，嘱托姚思廉继续编修，完成他未竟的事业。姚思廉在丁父忧之后又为继母丁忧，之后才补缺出任了一个小官，河间郡司法书佐。姚思廉上表陈述父亲的遗言，皇帝下诏，允许他续写梁史和陈史。后来，隋炀帝还让姚思廉和起居舍人崔祖？一起编写《区宇图志》。
大业末年，姚思廉为代王杨侑侍读。杨侑和越王杨侗、燕王杨絯都是隋炀帝的孙子，他们的父亲是元德太子杨昭。大业元年，隋炀帝就大兴土木，造西苑，营东都，还行幸江都。水殿龙舟，极尽奢华，还有几千只随从的船只，载着宫女、诸王、公主、百官和僧尼道士，拖船的劳工多达8万余人，光是拖漾彩船的就多达9000余人，都穿着彩织锦袍。“船舻相连200余里，照耀川陆，骑兵翊两岸而行，旌旗蔽野。”次年又让人制作仪仗等物，遍求奇物异品，向州县课求羽毛，于是全民捕鸟。“乌程有高树，逾百尺，旁无附枝，上有鹤巢，民欲取之，不可上，乃伐其根；鹤恐杀其子，自拔氅毛投于地，时人或以为瑞，曰：天子造羽仪，鸟兽自献羽毛！”
隋炀帝穷奢极欲地在江都享乐，元德太子从长安赶到江都朝见，路上奔波数月，请求在江都多住几日，隋炀帝不许。元德太子向来体肥，加之过劳致疾，于大业二年七月病死。“帝哭之，数声而止，寻奏声伎，无异平日。”
隋炀帝对儿子薄恩寡义，对孙子也好不到那儿去，派代王杨侑镇守长安，越王杨侗镇守洛阳，却不配给得力的文士武将，两都的守卫实在虚弱。姚思廉教杨侑读书绰绰有余，至于守城攻占则非其所长。隋炀帝安排的西京留守卫文升年迈，大业九年杨玄感兵变，围攻洛阳，卫文升驰援洛阳，就损兵折将，力不能支，后来李渊、李世民起兵，就没把他放在眼里，兵进关中，没有遇到什么抵抗就直逼长安城下。卫文升苦守长安也无用，李渊、李世民、李建成分三路攻打，从十月甲辰起至十一月丙辰，李建成部下军头雷永吉首先登上城墙，长安就落入李渊手中。
李渊攻克长安时，代王杨侑的府僚们奔忙逃命，谁也不管可怜的杨侑，只有姚思廉一个人侍奉代王，不离左右。李渊的士兵将要攻入金殿的时候，姚思廉站出来厉声说道：“唐公举义，本匡王室，卿等不宜无礼于王。”于是姚思廉扶杨侑而去士兵们就乖乖地布列阶下。“高祖闻而义之，许其扶侑至顺阳阁下，泣拜而去。”
李渊此时的态度是耐人寻味的。他乘虚攻占关中，却并没有取得号令天下的优势，隋炀帝尚在江都，河南由李密控制着，河北有窦建德，西边还有劲敌薛举。老谋深算的李渊并没有一步登天充当出头鸟，而是耍了个手腕，尊隋炀帝为太上皇，立杨侑为帝，自己则把朝政大权一把揽过来。李渊策划的这一出戏是成功的，可惜他的演技不好，刚一出场就露了马脚。“许其扶侑至顺阳阁下，泣拜而去。”明明是交割俘虏的态度，哪有一点大臣对“皇帝”的礼节呢？
次年三月，隋炀帝被杀。五月，李渊觉得再不需要杨侑这面招牌了，便从幕后走到前台，自己做了皇帝，国号为唐，建元武德。姚思廉在新王朝的官职是秦王文学。
李世民对姚思廉的学问和品格很敬重。李世民讨伐徐圆朗的时候，中原大局已定，征伐徐圆朗又是以多打少，以强凌弱，所以心情很舒畅，和部下闲聊起隋朝灭亡的一些事来。李世民感慨地说：“姚思廉不惧兵刃，以明大节，求诸古人，亦何以加也！”当时姚思廉在洛阳，李世民还专门给他寄赠了一份厚礼，还附信道：“想节义之风，故有斯赠。”随后请他作了文学馆学士。
李世民为太子的那一小段时间里，姚思廉任太子洗马。李世民即位后，姚思廉升任著作郎、弘文馆学士。在《十八学士写真图》上，褚亮为姚思廉写的赞语是：“志苦精勤，纪言实录。临危殉义，余风励俗。”
在唐太宗李世民的治国方略中，以史为鉴，古为今用是一条重要的思路。他有一句名言，叫做：“以古为鉴，可以知兴替。”因此，他孜孜不倦地读史、议史，从中汲取经验教训。他对史书的编修和整理也十分重视，贞观三年，他亲自下诏，让房玄龄、魏徵、姚思廉、令狐德等人整理、编修前代史籍。由于是集体官修，各方面的条件都比较好，修史有了充足的保障。姚思廉的父亲曾修梁、陈两代的史书未成，由他续成是理所当然的；修周史的是令狐德和岑文本，修齐史的是李百药，魏徵与许敬宗修隋史。官修正史由宰相房玄龄总监，由魏徵知其总务，书中的赞论之类，多出于魏徵手笔。
姚思廉修梁史，以父亲收集的素材为基础，又采纳了谢炅等史家的资料，修成《梁书》五十卷；他还推究陈代史事，增删傅、顾野王等人所修的旧史，撰成《陈书》三十卷。这两本史书的总论是魏徵写的，其他的工作都由姚思廉来完成。贞观十年，周、齐、梁、陈、隋五代史书修成，由房玄龄、魏徵进呈御前，唐太宗十分高兴，嘉奖了有关人员，魏徵加封光禄大夫，进爵郑国公，赐物2000段；姚思廉赐采绢500段，加通直散骑常侍；令狐德、李百药等也各有奖励。
姚察、姚思廉父子历经陈、隋、唐三代，志在修史，历尽艰难，终于在贞观治世完成了两部史书的编修工作。这件事情也从一个侧面印证了“国运兴，万事昌”的道理。
姚思廉是唐太宗李世民的老部下，深受礼遇和信任，政事得失，经常询问他的意见，姚思廉也直言不讳，知无不言。有一次，唐太宗要巡幸九成宫，姚思廉进谏说：“离宫游幸，秦皇、汉武之事，固非尧、舜、禹、汤之所为也。”唐太宗很客气也很诚恳地解释道：“朕有气疾，热便顿剧，固非情好游赏也。”唐太宗还赐帛五十匹以示勉励。
贞观十一年，姚思廉病逝。唐太宗深为悼惜，废朝一日，并赐葬地于昭陵。