自743年第一次东渡失败，经过了整整11年的岁月，已是66岁暮年的鉴真终于踏上了日本的土地。天宝十二年十二月二十六日（754年1月23日）鉴真一行又抵达太宰府（今日本九州北部福冈东南），受到了盛大的欢迎。遣唐副使大伴古麻吕于日本天平胜宝六年（唐天宝十三年，754年）正月将第二船安全回国以及唐高僧鉴真同船到达日本的情况上奏圣武太上皇。鉴真等离开太宰府，继续登船北上，于二月初一鉴真一行到了奈良县地难波（今大阪），受到了先期到达日本的中国和尚崇道等欢迎。初三，到达河内国府（今奈良县境内），受到内阁次官藤原仲马侣所派代表的欢迎，道璇也派弟子代表他前往欢迎，还有日本高僧志忠、贤景、晓贵等日本佛教界名人。次日，鉴真一行到达当时日本的首都奈良。朝廷已派安宿王作为天皇的代表，以刺使名义在首都奈良的正门罗城门外等候欢迎。在安宿王的导引下入住东大寺，之后皇族中的权贵纷纷前来礼拜。初五，鉴真在东大寺接受了当时日本佛教的领袖——先期来日本的中国和尚道璇以及同来日本婆罗门僧正菩提仙那和东大寺的住持良辩的拜谒访问。三月的一天，天皇派遣唐副使吉备真备前往东大寺慰问鉴真，并宣诏抚慰，还授予鉴真及普照、思托、法进等八人“传灯大法师”的称号，诏书上说：“自今起授戒传律，一任和尚。”并赐鉴真绢20匹、缯20匹、粗布30匹、细布100匹，其余人等各给一半。
日本天平胜宝六年四月五日，鉴真在东大寺举行了空前的大法会，主持日本佛教界从未有过的盛大的授戒仪式。他身披袈裟，庄严站在戒坛上，表情安祥；其他弟子也在各自的位置上如玉树临风。在幡幢飘扬、香烟缕缕、钟鼓齐鸣中，圣武太上皇、皇太后、孝谦天皇等皇族成员依次登坛，以严格的三师七证为他们授菩萨戒。事后，鉴真又为沙弥四百余人授戒。这一下，就等于说给日本佛教的旧制给予了致命的冲击。在鉴真到日本之前，日本基本没有授戒制度。即便是有，也是小规模的，并且极不正规。鉴真去日本后，马上在都城奈良的东大寺设立戒坛，这是日本佛教史上正规授戒的开始。
鉴真成了日本家喻户晓的大唐圣僧，随着前来受戒的人数与日俱增，天皇决定新建一个正规的戒坛院，专供鉴真师徒传律授戒。日本天平胜宝六年（754年）五月初一，天皇下旨在东大寺卢舍那佛殿西边兴建戒坛院，次年（755年）九月竣工。这个戒坛院至今还保存在日本奈良东大寺内，成为日本的一大古迹。东大寺建立戒坛院，作为日本全国的中心戒坛，与后来建立的西部筑紫观世音寺戒坛（筑紫，今日本福冈）、东部下野药师寺戒坛（下野，今日本枥木）合称为“天下三戒坛”。鉴真在东大寺戒坛院为日本高僧志忠、贤景、灵福等八十人授具足戒。
东大寺戒坛院的建立，标志着崭新的正统授戒制度开始。755年，日本朝廷敕令在东大寺内建唐禅院，作为训练和教育僧侣的场所，由鉴真亲自经营管理。在唐招提寺建成前，鉴真一直居住在这里。他特地做了36个牌位，将东渡过程中的36位牺牲者供奉在唐禅院，天天诵经超度。
日本朝野对鉴真大师是非常尊重的。天平胜宝八年（756年）五月二十四日，天皇朝廷任命鉴真大师为“大僧都”（佛协主席），以最高的僧管身份管理日本的僧佛事务，任命鉴真弟子法进为律师，思托、普照等人也成为奈良佛教界的重要人物。鉴真统领僧尼，之后天皇又以大政官处分的方式宣布：将过去供奉圣武天皇的米盐，转供鉴真大师和法荣大师二人。这个决定一时震惊朝野，轰动日本。天平宝字元年（757年），鉴真最主要的支持者孝谦天皇在宫廷斗争中失势，以及受到旧教团势力的影响，758年，天皇下旨以“正事烦杂，不敢劳老”为名，解除了鉴真“大僧都”一职。鉴真以平和的心态面对，专心致志地讲律传道。
东大寺的唐禅院是训练和教育僧侣的场所，由于朝廷的推崇，各地僧侣纷纷慕名而来。日本寺院有规定，不供养外来和不相识的僧侣；即使偶尔供养，也仅限三天，之后食宿自理，所以远道而来的僧侣只能风餐露宿，这点与中国有天壤之别。在中国，僧侣凭僧牒可以云游四方，挂单食宿，不限时间。荣睿、普照等日本僧人，在中国学习、云游各地，从未交过食宿费用。为了供养各地来的僧侣，在鉴真的呼吁下，天皇把备前国（今日本冈山县）的水田100町赐给唐禅院。有了固定收入，但受戒者越来越多，百町收入也是杯水车薪。鉴真想建立一所规模比唐禅院大得多的寺院，设无遮供（无遮就是没有遮拦，指不分贵贱、僧俗、智愚、善恶，一律平等看待。无遮供，佛语，指对各种僧人不加分别的供养），为前来学习的僧侣提供免费的食宿，以实现来日本弘扬佛法的大愿。
759年，在天皇赐给他的一块土地上，鉴真率领弟子们建成日本律宗的总本寺——唐招提寺，教谦天皇亲书“唐招提寺”四字，悬于讲堂。在鉴真及其弟子的经营下，短短几年时间内，唐招提寺已能与当时日本几个较大的官寺如东大寺、兴福寺和大安寺等相提并论，成为日本僧徒的向往所在，是当时日本最有影响的寺院。唐招提寺的做法，是把日本的佛教由贵族层面推广到大众层面，这在日本佛教的发展史上产生了深远的影响。
鉴真带到日本去的有48部经典，其中很多属于戒律著作。这些律学著作对于鉴真在日本传法弘律至关重要。唐招提寺建成后，鉴真在寺内传授佛法，弘扬经律，并负责整个日本僧人戒律的学习培训。鉴真的弟子们也赴各地讲戒授律。
律宗由中国传至日本，并不始于鉴真，但把律宗的教义完全传入日本，使之热情地表示了欢迎，但是见到天皇不仅对鉴真以及唐僧给予隆重的礼遇，还下诏授以重任，将日本佛教授戒传律诸事宜交给他们全权办理，这让他们的心理很不平衡。难道在朝廷那里，真是外来的和尚会念经吗？
高僧贤景、志忠想要看看大唐高僧的能耐，两人来到主管佛教的安宿王府向他提出了一个看起来冠冕堂皇的请求。贤景说：“安宿王阁下，贫僧有一事相求。目前流传到日本的所有佛教经典，都是从大唐或经新罗、百济和高丽传入的，由于互相传抄，以讹传讹，错漏百出，甚至一部经文有好几个抄本，找不出一个标建立并成为佛教中一个独立宗派，却应该归功于鉴真和他的弟子们，从而使中国的律宗在异国他乡得到了弘扬。鉴真东渡，将唐代发展成熟的律学传入日本，这对唐代律宗的发展来说也是一个里程碑，在律宗思想发展史上有它不可替代的地位。时至今日，日本律宗还有以唐招提寺为本山的律宗与以西大寺为本山的律宗等派别。日本人称鉴真为“日本律宗的初祖”。总之，鉴真大师在日本备受尊崇，为日本佛教作出了巨大贡献。
鉴真到日本弘法并不一帆风顺，日本佛教界中的旧势力处处刁难。对于鉴真的到来，日本佛教界的头面人物虽然也是准的本子，据说鉴真大和尚博涉经论，能否请他将所有的佛经加以校正呢？安宿王一听这话，使劲摇头：“你们这个请求太过分了。鉴真眼盲有所不便，怎么能校正佛经呢？”贤景嘴角微微一笑：“他是看不见。但我们可以让人念给他听。”安宿王又一副不忍心的表情：“他已经是年过花甲的老人了，记忆恐怕也不会那么好吧？”志忠说：“他是特意来日本传法的大唐高僧，校正佛经，对他来说不过是区区小事而已。再说，他的记忆不好不是还有那么多弟子吗？”
得知朝廷请求鉴真校正佛经，弟子们都不愿意了，明明知道师父眼盲，怎么能去校正佛经呢？思托十分不解：“这事我们弟子都可以完成，为什么点名要师父去做呢？”普照知道这是日本佛教界一些僧人的褊狭之心在作祟，他不客气地点中要害，说：“他们提出这样的要求，就是故意为难师父。”鉴真却不这样认为，向他们摆摆手说：“你们都不要多想。身为佛子，校正佛经，义不容辞。”于是，鉴真除了操心戒台的修筑外，便全力投入了校正佛经的工作。他端坐在经堂，听着僧人捧佛经照本宣科，念到不对的地方便叫停，指出错谬，再由旁边伏在案上的几个僧人执笔校对修改。
一次，他们正在校正《金刚经》时，忠志和贤景悄悄地走来，隔着纸屏细听。那时候日本僧人念佛经均用汉语，只听僧人念着：“须菩提。于意云何。可以身相见如来不。不也。世尊。不可以身相得见如来。何以故。如来所说身相。即非身相。佛告须菩提，若见诸相非相，即见如来。”鉴真说：“停，这里丢了一句。应该是‘佛告须菩提，几所有相，皆是虚妄。若见诸相非相。即见如来’。”接下来的段落中，鉴真又指出了几处错误，纸屏后的志忠和贤景不由得对视一眼，不得不承认这一招没有难住鉴真。
一计不成又生一计。见鉴真精通医术，弟子们也给日本的僧人们讲授医药法，他们又摆出虚心请教的样子，也不知从哪里弄出一些陈年草药，鼓动朝廷的医官将这些陈年草药混到一起，装在筐里，端到了鉴真的面前。
这天，他们还弄来很多医官和僧人观摩，想让鉴真在众人面前出丑。普照、法进和思托气得不行，但此事师父已经答应了，也只有无奈地站在师父的身后。只见医官跪在鉴真面前，恭敬地说：“自大和尚高徒法进律师在大安寺讲授大和尚的医药法后，才发现许多的日本医师在施药时，常常把药名和药物搞错，延误治病救人。请大和尚将日本目前流行的草药重新辨别，并传授大唐药法。”“哦。可以。”鉴真点点头。他说着向前摸去，从筐里捡出一根草药在手里抚摸一下，拿在鼻下闻闻。说：“这是鱼腥草，祛火除湿热。”医师赶快记录。鉴真又摸出一只，闻闻，又放到嘴里尝尝：“这是鸡血藤，通经络除风湿。”就这样他放下一个再拿起一个，闻一闻，尝一尝，不但准确地报出了药名而且说出药性：“柴胡，去火消炎……柏子，补气养心……”围观的人们被鉴真的真才实学所震撼，一个个露出敬佩的神情。而始作俑者贤景和志忠、法寂等人的表情却越来越不自在了。
但是贤景和志忠等人并没有善罢甘休，又提议日僧与唐僧举行一场辩论赛，辩题是：“三师七证”还是“自誓受戒”？地点在兴福寺维摩堂。由于语言的障碍，高僧这方只能有鉴真最忠实的日本徒弟普照来应战。辩论那天，维摩堂内座无虚席，维摩堂外围满了听众。日僧和唐僧形成两军对垒之势。贤景首先以《占察经》展开论点，滔滔不绝。普照则用《瑜珈论决择分》逐条批驳。辩论双方，你来我往，唇枪舌战。听众中一多半听得一头雾水，但双方的学识也让精学佛理的僧人大开眼界。最后普照以博闻强记和律学义理将对方质问住：“请提出你们反驳的依据！”贤景答不上来。由贤景、志忠等人挑起的这场辩论，在日本佛教界引起了很大的反响，也惊动了天皇和太上皇。但是真理不辩不明，经过辩论，贤景等人也都明白了只有按大唐的授戒度僧制度才能让日本的戒制走上正轨。很快，贤景、志忠等八十位高僧心悦诚服地跪在戒坛前，请鉴真为他们正式授戒。
自此，律宗开始在日本佛教界生根开花，鉴真的弟子们也都分散到了各个寺庙，作为传灯法师讲律授戒。日本佛教界混乱局面得到改观。