正在吴觉农着手划规茶叶出口检验如何开始的时候，另一项与改革茶叶质量有关的开拓性工作又摆到了他面前。
曾经借调吴觉农到浙江省建设厅工作时的那位程振钧厅长，这时候又调到了安徽省建设厅，还是当他的厅长。他一到那里，就想把早已荒芜的祁门茶叶试验工作恢复起来，这时，便又想起了那位有着丰富茶学经验的吴觉农。
程振钧的想法和吴觉农可以说是不谋而合。吴觉农早就看到了中国茶叶要发展，只对成茶品质进行检验不远远不够的，这只是一种消极地禁止劣质茶叶出口的办法，而要想全面地提高我们茶叶的质量，非采用科学的办法从种植、采摘、制造、贮藏等入手方能成功。
吴觉农的认识是完全准确的。中国茶叶，以往能够独占国际茶叶市场，是因为没有竞争对手。等到印度和锡兰的大叶种制成了红茶，特别是经过了英国的茶叶工作者研究指导以后，其出口量继续上升，倒把我们中国人的茶叶打了下来，中国红茶在国际市场上相形见绌，华茶外销量大大减少。中国人传统出口的工夫红茶，虽然从品质上说，有着自己的特色，但在制作上采用的那种因循守久的手工生产方式，是早就难以与印度、锡兰的茶叶相比了。一些人不了解国外的情况，还在盲目生产，治表不治本，解决不了问题，要从根上做起，还要进一步改进茶叶的种植和制造。于是吴觉农在商验局内部就提出了在各主要产区设立茶叶试验场的计划。
在中国茶区建立茶叶改良试验场，在吴觉农之前，确实也有人尝试过。早在清朝末年，清政府曾经派过一个知府衔的官员，到印度和锡兰去调查茶业，当时的随员中就有一位名叫陆的年青人，他一路上都认真地记下了笔记。等到辛亥革命之后，张骞当担任了农商部长，就把那陆给请到了安徽祁门试验场，让他来负责茶叶改良的工作。
也是真的当回事，从印度买来了揉捻机，准备从改进茶叶产制工艺入手。谁知他这里正上了手，张骞那里却去了职，中国茶叶最初的现代化改良就这样昙花一现地泡了汤。
这一等就是十多年，现在，机会终于又来了。程振钧无疑是个有头脑的识人之人，且有知人之明，他再三与邹秉文协调，要吴觉农帮他把这个茶场筹备起来。其实这想法和商检局的努力也是一致的，吴觉农拟出一个茶叶种植与和产制的试验计划之后，先后提交邹、蔡两局长同意，拨出了一些经费，并与有关省政府协商，在浙江、安徽、江西设立了以试验红绿茶为主的平水茶叶改良场和以试验红茶为主的祁门和宁州茶叶改良场。
茶叶改良是从祁门开始的。吴觉农就这样到了安庆，再由安庆渡江经过一座有名的高山大洪岭，到了祁门，开始了前期的筹备工作。
限于经费问题，前期的筹备很困难，可用举步维艰四字来形容吧。直到1933年，“棉麦借款”成功，吴觉农拟具了一份祁门红茶改进的建议书，送经和“棉麦借款”有关的全国经济委员会农业处同意后，这才拨出了较多的经费，由该处和安徽建设厅合办了祁门茶叶改良场，吴觉农选中茶叶专家胡浩川，让他来主持场务。
祁门茶叶改良场就这样成立起来了。购置了德国制的克罗伯式新式揉捻机和干燥机，并由台湾购入了小型的揉捻机等。试验结果表明，运用科学办法制作出来的祁门红茶，其质量完全能够与世界著名的印度与锡兰红茶相媲美。
尔后吴觉农又经过了二三年的努力，多次与各省的地方政府进行磋商，终于在继祁门茶场之后，先后又设立了江西宁州、浙江平水等好几个试验场。这些试验场都是由吴觉农自己亲自选定人选进来担任工作，或者就由他自己来兼任场长。
这些试验场中的平水茶叶改良场，地址就设在上虞的三界。平水绿茶，历来被子人们称颂为“绿色珍珠”，这个茶类也是华茶最早销往世界的茶种之一。在清同治光绪年间时，华茶曾经几乎独占了美俄法英的茶叶市场，而平水珠茶，又占了其中的绝大多数部分。正是因为印度、锡兰（斯里兰卡）日本等国初始仿我平水珠茶的外形特色，机制了“玉绿茶”，更由于华茶自身的一些致命的问题，使平水珠茶的地位日趋衰退。
当时的国民党政府也不是没有看到这一问题，因此全国经济建设委员会就曾两次派员来到平水珠茶区视察。1936年3月，该会的农业处长赵莲芳就由浙江省建设厅的张祖纯陪同平水茶产地视察，并初拟在交通便利的上虞狮子山2000余亩荒山上新辟茶园，建改良茶场，但没有能够实现。到同年五月时，该会才又派了吴觉农，在浙江省农林改良场场长莫定森陪同，经绍兴、上虞、新昌等地，多处视察，一直到了绍上嵊三县交界的西园乡踏看时，发现这个地方位处绍兴、上虞和嵊县三县的交界处，又是平水珠茶的产区中心，且交通便利，水路有剡江通航，陆路有公路相通，还是一个很有文化底蕴的地方，附近就是东汉大哲学家王充的墓地。此处建有龙藏寺，寺内有古井、古碑（唐代）、寺中旧有芝山书院的校舍两座尤存，共有平方24间，楼房12间，还依托了荒山茶地200亩，都可以拿来利用并扩展余地。吴觉农非常兴奋，毕竟是自己的故乡啊。他们初初拟定了就在这里发展茶场，经批准之后，日本留学生技术员徐方千被委派到此共同筹建。1936年9月5日，浙江省农林改良茶场正式成立，吴觉农担任了场长，三个月之后，茶场直属了浙江省建设厅，但实业部的吴觉农依旧担任场长，主持场务的便是吴觉农的学生吕允福和刘河洲、吕增耕等人。早在1928年时，吴觉农和他的爱人陈宣昭曾经在江湾国立劳动大学农学院担任过兼职教师，吕允福和刘河洲当时都是农学院的学生，他们和吕增耕又都是嵊县人，人地两熟，所以吴觉农就放手让他的学生干，并由他们再去物色一些工作人员。这些学生以后都成了中国茶学界的骨干力量，终生都未再离开过茶业。
这些茶叶改良场和试验场，虽然由于抗日战争的爆发而停顿下来，但茶叶改良的雏形却由此确立，以后各省茶叶改良试验场的蓬勃发展，都是建立在这一基础之上的，这一开拓性的创举，正是在吴觉农的领衔下开始的。比如在三界茶场，吴觉农率领着他的茶人们，一边积极引进和选育良种，一边发展机械制茶，还举办了各类的茶技培训。吴觉农亲自给学生们上课，这些学生们绝大多数都成了新中国茶叶界的骨干力量。
工作着是美丽的，效果也是明显的。从1937年到1940年，平水珠茶产量大增。到1938年，产量达到了历史上的最高水平。若不是抗日战争的到来，珠茶的事业将会有更大的发展。
吴觉农在这一时期从事的另一件极有深远意义的事情，就是在茶农中组织全作运动，从而提高工作效率，降底生产成本，制造优良茶叶。他首先于1936年在江西宁州红茶区修水推开，到1940年参加的社数达42社，制造茶叶1500余箱，并与修水茶顺改良场进行了技术合作，茶叶质量大有进步，售价达145元，破了宁红历史的最高纪录。