光绪二十八年五月四日（一九〇二年六月九日），何澄跟随考察学制的吴汝纶从塘沽登上赴日的邮船，开始了他求知求新、学切实可法者的征程。
在东渡的这条船上，与吴汝纶同行的还有京师大学堂提调官、浙江补用道荣勋（荣禄的侄婿），京师大学堂提调官、兵部员外郎绍英等五名文武官吏和其他十五名或官费或自费的学生，何澄在京城的日文教习中岛裁之亦以翻译身份同往。
乘船浮海了六天，船入高丽湾，左右有远山，有同行者指着一海岬告诉吴汝纶：“此甲午战时初击高升船处也，距高丽仁川四十英里，士人呼为黄海冲。”六月二十日，船至长崎，清国驻长崎领事邹小清先派翻译唐宝锷（一八七八～一九五三，广东香山县人，出生在上海，系清廷专为学习翻译而于一八九六年派赴日本的第一批十三名留学生之一）登船相候，邹小清则陪长崎县知事荒川义太郎上船拜访吴汝纶；随后上船拜访的有大阪《朝日新闻》报社长崎通信部主任山本静、大阪《每日新闻》社长崎特派员田代直树、《长崎新闻》报记者上野秀次郎。
六月二十一日，船抵马关，靠岸停泊，因此关是日本本国海船上煤之最佳良港，所以往来中国的邮船往往要在此泊舟几个小时，直至把邮船所用动力煤装好后才再开行。但在这个甲午战败的媾和之地，凡中国人，没有不痛心的；凡晚清思想进步的知识分子，没有不会背诵黄遵宪这首伤心千古的悲歌的：
括地难偿债，台高到极天。
行筹无万数，纳币一千年。
恃众忘蜂虿，惊人看雀鹯。
伤心偿博进，十掷辄成鞬。
吴汝纶欲上岸前往马关条约谈判处春帆楼一览，但中岛裁之不肯。吴汝纶只好在船上作诗写字，给上船采访的《门司新报》记者日野种吉、《福冈日日新闻》记者丁吉治、大阪《朝日新闻》特派员藤昌树各一首。吴汝纶作诗写字时，何澄等生徒均围绕在四周，其中的一首《过马关》，让何澄铭记在心，历年难忘：
愿君在莒幸无忘，法国摧残画满墙。
闻道和亲有深刻，欲移此碣竖辽阳。
也许是为了缓解丧权辱国的媾和悲愤之情，邮船从下关开行不久，便见“左右皆山，浓树扶疏，耕渔错落，风景绝佳。入夜，渔火隐现如繁星，尤称绝景”。在甲板上眺望，众人心情为之转好。六月二十二日，船抵神户。清国驻神户领事蔡薰（清国驻日公使蔡钧之弟）上船相候，神户同文学校干事、书记员郑焕之、教习陈秀峰、吴肇修、何天柱、钟龄、冯翼年等，挈领生徒十馀人来船欢迎吴汝纶。吴汝纶等清国官员被兵库县知事用小轮船接走，何澄等留学生在清国留学生会馆神户招待员孙实甫的招待指点下，把行李贴明留学生字样，交与神户海岸仲通清商盛源号的当差，一一点清，然后拿上到时凭牌领物的铜牌，即上了口岸。那时到日本，不需要任何签证手续，如同在国内出省一样，自由进出。只是上岸以后，要把所带行李先搬至税关，经过简单的查证：所带物品重量是否超过所规定的磅数，有无携带烟、酒、绸缎等入港时应课税的物件，然后即可通关。在仲通清商盛源号吃饭休息之后，何澄和其他同学拿到孙实甫给他们代买的火车票，即从神户改坐火车到东京。
火车经过一天的行驶，何澄一行到达东京新桥车站时已是次日的晚上。到站后，即有清国留学生会馆的干事前来接站。在会馆干事的招呼下，何澄住进了距清华学校较近的一个下宿处，第二天即到清国驻日公使馆报名、留书信地址，一为拿到公使馆开具的入学咨文或作保书；二为备案；三为便于查询、照料和保护。其时清国驻日公使为蔡钧，留日学生对其评价不高，认为“不学无术，善钻营，顽固自大”。蔡公使对何澄还算友善，因为一听何澄说着一口京白，又是灵石两渡何氏的后人，自然另眼相待，不但很快为何澄办好入学咨文，而且还问到何副宪（何乃莹）、何总督（何福堃）的近况。何澄一一禀答，颇有他乡遇故知的亲切。
公使馆的一切手续办好后，何澄顺路即到理发店剪掉了辫子。前述有他剪掉辫子后的留影，可知割取这一缕青丝在这个初渡异国的年轻人心头自有一番抛别旧习的决绝。不二日，便到小石川区传通院旁的清华学校办理了入学注册手续。
清华学校占地面积不大，进了校门没几步，正面就是一座长方形的两层教学主楼，是一种很简陋的实用型的建筑；楼门前厅设计为亭子状，很高，与二楼的中间唯一的一个阳台差不多能挨住；屋顶很难看，前后长方形、左右正方形，就那么顺着坡向上合拢，除了四角多出四根柱头，没有一点装饰和美感，很像中国古代的石棺。主楼左手另有一座长方形的二层学生宿舍楼，学习和生活倒是很方便。初入清华学校没几天，何澄便在江苏籍同学陆规亮、刘钟英处，结识了后来成为国民党元老的吴稚晖。吴稚晖此行的目的是携其十二三岁的女儿吴芙、外甥女冯元赛，好友女儿周佩珍（十二岁）、华桂（十六岁）、胡彬（即胡彬夏，十五岁）赴日游学。与吴稚晖同行的还有曹汝霖的二妹曾曹汝锦（理蕰，上海人），以及章宗祥的夫人陈懋勰（彥安，苏州元和人，二十三岁）。
曹汝锦，时年二十四岁，她的丈夫曾志忞与之同行，并把五岁的儿子宏杰带到日本准备入幼稚园。曹汝锦初入以从事中国女性留学教育闻名的下田歌子创办的实践女学校，一年后改入东京美术学校西洋画科。曾志忞入早稻田大学政治科，后因喜爱音乐，又兼入东京美术学校。归国后，终把副业当正业，成为民国早期著名的音乐教育家。
在吴稚晖此行所带最早赴日留学的女子中，当时年龄才十五岁的胡彬夏輥輯訛日后最有成绩，她成为提倡女性在教育、社交、就业、财产以及人身自由等等基本权利的典范人物。
何澄本来想，吴稚晖贵为“先生”，本该乘坐一等舱的，但他乘坐的居然是比自己还要低一等的三等舱。这种舱，只有小小的圆形玻璃窗，以通空气，一遇上海浪，就要关闭，所以又臭又闷；舱铺也不是床，而是日本式“他他密”，每人各占一席。由此，何澄对吴稚晖这位“先生”就有了一种距离极近的亲切感。经过攀谈，何澄知道吴稚晖早先叫吴眺，后改名“敬恒”以自警，因为他认为唯“敬”与“恒”方可肩天下之重任，又因景仰南朝诗人谢玄晖，便取字“稚晖”。他生在常州武进雪堰桥，六岁时母亲病故，由外婆将其带到无锡养大，所以一口无锡话。当许多人把他当作是无锡人时，他总是笑着说：“说我武进人可，无锡人可，总之，是中国人也。”何澄听到这儿也笑着说：“我生在山西灵石，母亲病故后被长兄带到复州和京城，他们都是一口京话，我也跟着学会了官话，现在又借吴汝纶先生的帮助，得以到日本求学，所以您说我是山西人可，京城人亦可，总之，是中国人也。”说完，两位就如忘年交那般无所顾忌地哈哈大笑。此后，何澄经常乘吴稚晖前来或随江苏同学前去拜访之际，与其晤谈闲聊。吴稚晖说起自己的经历，不禁摇头苦笑：光绪十七年（一八九一年），我乡试中举，次年参加会试未中，仍一心苦读求功名，简直是个只慕咬文嚼字的陋儒。何澄听说吴稚晖是个得过功名的举人，便有些惭愧：您中举已经够让我仰慕了。我才不幸，十五岁时，文章已完篇，正盘算遇上小考輥輰訛之年便到县上考起，但因母亲病逝，丁忧服阕时又赶上甲午战败，连个秀才也不能考。后来入了莲池书院，能考了，先是戊戌变法，再是庚子之乱，什么又都不能考了。您早知“秀才乃宰相之根苗”，我连这求功名的第一阶级都没踏上，还能求什么功名？只好读读洋装书试试看。吴稚晖说：西学好，西学可以救己也可以救国。我也是直至甲午惨败，方觉中国不能不学西方工艺，学了西方工艺，才能造大炮机关枪。当时却也颇遭守旧的“正人君子”所疾视，看作一种怪物。丙申（一八九六年）那年，张之洞允许康有为办《强学报》，因为用了孔子纪年，第一期出版，即停刊了。我们也不大相信康有为，因为他叫康祖贻的时节，传说年纪未满三十，已留了长胡子，作的《孔子改制考》等等，当时却骇怪得利害。他自号长素，意思是长于素王，孔子是老二，他才是老大。此时他又用起孔子纪年，所以他虽在一八九五年号召“公车上书”，终疑心他不伦不类，是江湖一类的人物。是年五月《强学报》停刊，七月《时务报》又在上海出版。梁启超的议论，大家方惊异是闻所未闻，才承认康、梁都是了不起的“维新党”。一八九七年冬天，我在北洋学堂教书，放了年假到北平米市胡同去看康有为，大家论到最重要的问题，还是八股、小脚、鸦片三害。我说：“八股，我们可以自动不赴考，小脚，可以不缠，鸦片，可以相戒不染。”康有为就伸了两个大拇指狂喊：“好极了呀，好极了呀！”那种气概，现在是三四等政客都忧为之的，当时我们却从未见过，不觉惊异是天人。光绪二十四年戊戌科会试，我真自动地不赴考，而梁启超却还去入场，更暗惊他们说话不大当话，更懒得亲近他们。后来我到南洋公学教书，盛宣怀輥輱訛是面长面短，我都无缘相识，章太炎却骂我是盛宣怀的洋奴，真太无聊了。一八九八年春天，我在北洋学堂教书，其时北洋校长，名曰总办，是宁波王苑生輥輲訛先生，那是一个透新的人物。他与夏穗卿輥輳訛、严又陵輥輴訛等，正作《国闻杂志》，译载《天演论》，作《国闻日报》，讲新政治。我自以为新得利害，可是学生和王校长都说我是保皇，于是一气之下，就辞职到了上海南洋公学教书了。时值六月，康、梁在北京大变法，我自以为毕竟是个维新党，当然也大兴奋，也在无锡怂恿朋友，在崇安寺立下一个学堂。能立学堂，当然自认进步。我在学校有三句口号，叫做：“皇帝与百姓打官司，我助百姓；先生与学生打官司，我助学生；老子与儿子打官司，我助儿子。”为了师生同理校务的主张，既然通不过，就又离了南洋公学，东渡日本高等师范学校学教育，这是一九〇一年三月的事了。
维新人物的这些趣事，何澄是第一次听说。他所崇拜的圣人康有为和梁启超竟是如此好玩，如此存有变数；教他睁开眼睛看世界的《国闻日报》，原来竟是这么几个人办的，不免有相见恨晚的感慨。又一天，他问吴稚晖缘何带了这么多女眷和女孩子到日本？吴稚晖说：去年冬天，两广总督陶模和广东巡抚德寿招我去办广东大学堂，我在广东看见了官场内幕，觉得格格不相近，就在一九〇二年招考完毕，请胡展堂（胡汉民）带二十六名粤派官费生由香港赴日，我则离粤抵沪，即回无锡偕夫人带了留学的亲友复至上海，一同再上日本求学。何澄听完急问：“您夫人和您所带的这些太太小姐也要到日本求学？”吴稚晖反问何澄：“不带她们出来，还不是八股、小脚、鸦片？”此刻，何澄对自己到日本游学已经感到是一件不可思议的事了，面对着吴稚晖的家眷和这些女生也要赴日游学，更惊愕得说不出话来：“那她们都上什么学校？”吴稚晖告他：曹理薀、陈彥安、华桂、胡彬她们打算寄宿在东洋女士下田歌子家，并入她所办的华族女校輥輶訛。周佩珍、俞文婉、冯元赛、吴芙她们四个，拟分别入中小学校。
听吴稚晖如此轻松讲出，何澄好奇地问：下田歌子受过什么教育，竟能开办华族女校？吴稚晖告诉他：下田歌子，一八七二年入日本皇宫，当“女官”，其实是地位较高的一种宫女。一八七九年结婚后离开皇宫，但婚后不久她丈夫就去世了，遂从国家主义立场出发投身到女子教育事业之中。为了把日本上流家庭出身的女子培养成贤妻良母，她于一八八一年开办了桃夭女塾。开办女塾前后，还曾前往欧美各国考察教育，眼见大开。一八九八年，为防止妇女劳动问题于未然，同时为了解决有损日本国家声誉的日本妓女海外卖淫问题，发起组织了帝国妇人协会并担任会长。一八九九年，创立实践女学校。中国人开始留学日本的时候，她担任日本华族女校的学监。她十分关心清国的教育问题。清国官员前往日本考察，也经常拜访她輥輷訛。“听君一席话，胜读十年书”，何况在船上的几天几夜！何澄顿感走出来真是海阔天空，神人奇人无处不在！
每天正午时分，位于东京千代田区江的户城天守阁遗址处都要施放午炮。午炮一响，公司休息，学校放学，开始午餐。还有幽默诗曰：“家家筷子响，乃午炮之回音。”留学指南一类的书上没有说到这件事，何澄对此不解，乃问吴稚晖。吴稚晖告他：“呵，这打午炮起源自明治四年（一八七一年）九月九日，在我国，这一天是登高望远之日，而日本当时的太政官却接受了兵部省的提案，将这一天定为打午炮报时的开始日，目的是为了培养和加强国民的时间观念和意识。”輦輮訛刚到东京的何澄，还没有被东京的午炮击中，已被吴稚晖这门“启蒙大炮”轰倒……在东京就与吴稚晖相识，对何澄以后成为革命党人有着脱胎换骨的影响。吴稚晖一年前在东京高等师范学校就读时，常至清华学校与范源濂輦輯訛、蒋百器輦輰訛、蒋百里輦輱訛、梁启超等往还纵谈輦輲訛，对清华学校的情况极为熟悉。原来，清华学校亦叫东亚商业学校，其前身是由逃亡到日本的梁启超向郑席儒、曾卓轩等横滨华商募款三千元，于一八九九年九月在东京牛込东五轩町设立的东京大同高等学校。因横滨在一八九七年已有康有为的弟子徐勤创办的一所大同学校，所以特加“东京”以别于早两年创办的大同学校。最初的学生有前湖南时务学堂旧生林圭（亦名林锡圭）、秦力山、范源濂、李群、蔡锷、周宏业、陈为璜、唐才质、蔡锺浩、田邦璇、李炳寰等十馀人，再加上由横滨大同学校转过来的冯自由、郑贯一、冯斯栾、曾广勷、郑云汉、张汝智等七人，一共才近二十人，多是流亡到日本的各种维新人物。东京大同高等学校由梁启超任校长，日人犬养毅輦輳訛的亲信柏原文太郎。为干事輦輵訛。
光绪二十六年（一九〇〇年）夏季，清末维新派领袖之一唐才常輦輶訛成立自立军。乘八国联军攻占北京，慈禧太后偕光绪帝出逃之际，密谋于八月二十三日在武昌、汉阳、汉口三处同时起义，武装勤王。于是约赴日留学生中有志返国者相助。东京大同高等学校湘籍学生几乎全部响应起义，校外则有傅良弼、吴禄贞、蔡丞煜、黎科、郑葆丞、张煜全、戢翼翚等返国策动，在当时总数不过一二百人的留日学生中，就有约二十馀人回国参加这次起义。然而，自立军未起先败，两湖总督张之洞在英国驻汉口领事的告密和默许下，抢先于八月二十一日凌晨，由都司李士桓捕获藏匿在英租界内李慎德堂的会党邓永材、向联申，审讯之后，得悉唐才常等自立军起义骨干在宝顺里，遂以兵围，逮捕了唐才常、林圭、李虎生和日本人甲斐君靖等三十馀人。除秦力山、吴禄贞、戢翼翚等少数人逃脱外，唐才常等起事者二十馀人于八月二十二日在武昌紫阳湖畔被杀害輦輷訛。东京高等大同学校的第一批学生就此消亡。
而在自立军起事之前，梁启超因在《清议报》上屡屡发表“排满”言论，深为康有为不满，遂于一八九九年十二月派叶觉迈携旅费至日，强迫梁启超远赴檀香山设保皇会，另派麦孟华輧輮訛代理校务。麦孟华代理校务后，以“诸生咸心醉民族主义，与保皇会宗旨不合”，废止了汉文讲席，而把这所学校改为攻读日文的专修学校。未及多久，校中经费不继，渐到无法维持的地步，遂改由清公使蔡钧接办，校舍迁至小石川区传通院旁，易名为清华学校，以表示大清统治中华之义云云。校长是犬养毅，柏原文太郎和湖北留学生总督钱恂輧輯訛任监督。
一九〇一年四月二十八日，清华学校易名曰东亚商业学校（对外亦称清华学校）。之所以改名，是由于“商业与国家兴亡关系密切，内政和外交亦以商业为基础”。在举行创校典礼时，来宾有前首相大隈重信輧輰訛、贵族院议长近卫笃麿等日本知名人士，还有横滨华侨百馀人。校长仍是犬养毅，学生有一百馀名。除旧生外，新来者颇不乏人，其中王宠惠輧輱訛、蒋尊簋、蒋方震是该校最著名者輧輲訛。
何澄是清华学校易名后的第二届学生，山西籍学生只他一人，也是清末出国潮中山西自费游学日本第一人。何澄的清华同学共有五十五名：
直隶同学五人：
张殿玺，字壁堂，直隶衡水人，时年二十五岁。
张书诏，字子纲，直隶衡水人，时年二十三岁。
杨毓萃，字鹿宝，直隶丰润人，时年二十岁。
李士熙，字季芝，直隶永年人，时年二十岁。
陈之骥，字舛良，直隶丰润人，时年十九岁。
江苏籍同学十三人：
顾次英，字水畦，江苏南汇人，时年三十岁。
蒋凤梧，字韶九，江苏常熟人，时年二十八岁。
陆规亮，字以行，江苏松江人，时年二十九岁。
刘钟英，字东海，江苏松江人，时年二十四岁。
陆梦熊，字渭渔，江苏崇明人，时年二十三岁。
吴钦廉，字一清，江苏金山人，时年二十二岁。
盛郁文，字迴新，江苏华亭人，时年二十一岁。
李益新，字铭文，江苏海门人，时年十九岁。
陆家鼐，字味辛，江苏崇明人，时年十九岁。
董瑞熙，字缉唐，江苏吴县人，时年十九岁。
张肇熊，字谓生，江苏金匮人，时年十八岁。
华鸿，字裳吉，江苏金匮人，时年十八岁。
冯鸿图，字翔甫，江苏崇明人，时年十四岁。
浙江籍同学十三人：
虞祎祺，字子瑶，浙江镇海人，时年三十六岁。
高平，字运枢，浙江上虞人，时年三十一岁。
周承德，字翼舜，浙江海宁人，时年二十六岁。
陶成章，字焕卿，浙江会稽人，时年二十六岁。
经亨颐，字子渊，浙江上虞人，时年二十七岁。
张竞仁，字心穀，浙江海宁人，时年二十五岁。
施绍堂，字德南，浙江吉安人，时年二十四岁。
陈威，字公孟，浙江山阴人，时年二十三岁。
丁嘉樨，字拜尧，浙江山阴人，时年二十岁。
胡濬济，字沇东，浙江慈溪人，时年十七岁。
钱家沅，字武斋，浙江仁和人，时年十九岁。
姚永元，字伯和，浙江嵊县人，时年十八岁。
潘国寿，字君颐，浙江乌程人，时年十六岁。
湖南籍同学八人：
许翔，字子训，湖南善化人，时年三十四岁。
杨子玉，字凤生，湖南垭口人，时年三十一岁。
张伯良，字葆光，湖南芷江人，时年二十八岁。
许兼，字绍周，湖南善化人，时年二十四岁。
曾继焘，字乾伯，湖南新化人，时年二十三岁。
龙毓峻，字原，湖南攸县人，时年二十二岁。
李念嗣，字彥士，湖南长沙人，时年十五岁。
许定一，湖南善化人，时年十四岁。
贵州籍同学五人：
黎迈，字再稚，贵州遵义人，举人出身，时年二十一岁。
毛邦伟，字少猷，贵州遵义人，举人出身，时年二十一岁。
遵义蹇氏有三人入清华。其中两个都叫蹇先伟，一个字方舛，一个字经升，时年都是二十一岁；另一个叫蹇先骢，字恒驹，时年十六岁。
广东籍同学六人：
甘歔元，字璧笙，广东香山人，时年二十九岁。
钟铁，字朗山，广东嘉应人，时年二十二岁。
陈子鎤，字韵楼，广东新会人，时年二十二岁。
应荣，字声远，广东香山人，时年十八岁。
万室镛，字楚璧，广东香山人，时年十六岁。
萧宝镛，字楚璧，广东香山人，时年十六岁。
福建籍同学二人：
陈与年，字筱远，福建闽县人，时年二十三岁。
王任，字勇公，福建闽县人，时年十九岁。
江西籍同学一人：
熊正瑄，字冬老，江西南昌人，时年十六岁。
云南籍同学一人：
杨骏业，字质斋，云南昆明人，时年十九岁輧輳訛。
何澄的这届清华同学中日后颇有几位知名者：如，陆梦熊，归国参加了学部举行的第二次游学毕业生考验，廷试上列一等，被授予商科进士；陶成章，光复会著名领袖，辛亥革命重要人物；我国近代著名教育家、篆刻家经亨颐；长期担任北京女子高等师范学校校长并著有《中国教育史》的毛邦伟；北京大学数学门最早的两位教授之一、中国现代数学教育早期代表人物之一的数学家胡濬济。
清华学校本以“日内政，日外交，其才悉此校是赖，商业云乎哉！商业云乎哉！”輧輴訛但从何澄这届肄业的学生毕业后的走向来看，从事商业的微乎其微，反倒是终生从事教育者众多。
何澄入校时，孙中山尚未为留学生所知。由于梁启超所办东京大同高等学校的“教材多采用英法名儒之自由平等，天赋人权诸学说，学生受此新知的洗礼，耳目为之一新。因此，该校学生多高谈革命，各以卢梭（法国哲学家、作家）、福禄特尔（法国哲学家）、丹顿（法国大革命期间的革命领袖）、罗伯斯庇尔（法国大革命时期的革命领袖）、华盛顿相期许……”輧輵訛所以，东京高等大同学校具有浓厚的革新倾向。这种革新倾向一直延续到梁启超离开并改名为“清华学校”之后仍未散尽。谈到留日学生的政治活动，吴稚晖说：“一九〇一年左右，留日学生约略分为清华派、大学派、士官派及不定派，其中以清华派的思想最为激烈。”輧輶訛果不其然，何澄刚入清华学校农艺科一个多月，就参加了成城学校“入校事件”请愿活动輧輷訛，从而成为留日学生由“思想激烈”派向革命活动过渡的“新清华派”。