在中国，从夏朝、商朝、西周到春秋长达一千五百年左右的奴隶社会里，实行的是“学在王官”的教育制度。这种教育制度在长期的奴隶社会里培养了奴隶主贵族专政所需要的各类人才，传播了文化科学知识，对社会的发展起到了促进作用。然而，这种教育制度的弊病也是十分明显的。它具有鲜明的等级性，规定只有贵族子弟享有充分受教育的权力，平民子弟享有受初级教育的权力，完全剥夺了广大奴隶受教育的权力。同时它传授的知识也仅仅局限于贵族管理国家和统治百姓的方法、手段与经验。随着历史的发展，这种封闭的、由少数人垄断的教育制度越来越不适应社会各阶层日益增长的文化需要，也不利于劳动者素质的提高。到了春秋后期，随着王室的衰微和地方诸侯国力量的增强，特别是农业、手工业、商业的发展和各地经济文化交流的日趋频繁，社会对各级各类人才的需求大量增加，再加上王室的礼乐官员流散民间，打破原有教育制度的条件成熟了。在正式办学之前，孔子收了两个弟子，一个是曾点，一个是颜路。
鲁昭公十二年(公元前530年)清明节，孔子为父母扫墓之后，下山回乘田吏署。刚走到山脚下，一位迎面而来的少年突然抱拳施礼道：“乘田大哥，您好？”
“你是——？”
“您不认识我了？六年前，我们还在一块放过羊呢。那时，我十岁，您十六岁，您今年二十二岁了，对吗？”
“我想起来了，你是曾点，长这么高了！”
“孔丘大哥，我父亲让我拜您为师，向您学习。”第一次被别人称为“师”，忙说：“我自己知识很有限，怎能为人之师？”
“您是怕我笨，还是嫌我穷？”
“不！我怕教不好，耽误你的前程。”
“我都不怕，您怕什么？”
“我确有将来设坛讲学的想法，到那时，可以先收你做学生。不过，目前我还得当乘田吏。”
“老师！”曾点来了一个五体投地。于是答应了。
一天，颜路约曾点一起去见孔子。
见到孔子，颜路、曾点一起施礼道：“老师好！”
曾点说：“他叫颜路，与我同岁，今年十七岁，人品好，很聪明，是我的好朋友。他诚心拜您为师，您一定不会推辞吧？”孔子把客人让进堂屋，说：“曾点，我不是对你说过嘛，这几年，我要多学习，不能收徒。日后设坛讲学时，才能考虑收徒之事。”
颜路忙说：“我愿留在您身旁，听取教诲。待您设坛时，正式拜师，恳请恩准。我和曾点商议好了，我们俩做您最早的弟子，不仅如此，将来还要让儿子也做您的学生呢！”拉起颜路，高兴地说：“你和曾点一样，可以先留在我身边，先当个非正式学生吧！”鲁昭公二十年(公元前522年)的大年初一上午，曾点、颜路一起来给孔子夫妇拜年。
曾点说：“夫子现在三十岁了吧？您在治学、做人、为政等方面已奠定了坚实的德业基础。您平时所说三十而立，可以说已经实现了……”
“办学校吧！把知识传授给青年人，光宗耀祖，为国效力，这不比做官更好吗？”颜路接过话茬说。告诉他们：“我向上卿大夫孟僖子说过办私学的想法……”话音未落，一位官差进门通报：“上卿大夫孟僖子的长子孟孙何忌(孟懿子)带着弟弟南宫敬叔来给夫子拜年！”忙请兄弟二人上坐。说：“两位光临寒舍，蓬荜生辉呀！”
孟懿子说：“我父亲让我们兄弟拜夫子为师，请夫子快办学吧！”“对，对！请夫子快办学吧！”曾点、颜路也一致提出要求。“历来的学校都是官办的，官方能允许私人办学吗？”孔子问。孟懿子说：“我父亲重病前看得明白，鲁都的官学死气沉沉，不出人才。他已面奏国君批准，允许夫子办私学，传道授业。我会遵从父命，尽力帮助夫子办学……”说着，从怀中取出国君诏书。
鲁昭公二十年(公元前522年)，鲁都增加了新话题，纷纷议论孔子决定办私学这件事：“孔子性格坚毅、讲仁重德，能够取信学子，凝聚人心！”
“孔子熟知周礼，注重仁义，堪称为人师表，为世师范！”
不久，十多个前来求学的青少年带着行李衣物和学费进了孔门。把学堂暂时设在家里，他要求弟子们“近者走读，远者投亲靠友、找同学帮忙，就近分散食宿……”
“一年交多少学费呀？”弟子们问。回答：“现在是试着办学，暂不收学费。”
“老师不能白教我们呀，还是规定一个收徒条件吧！”
“筑坛建堂完毕之日，就正式开学，那时再收学费吧。”
这年夏天，孔子在阙里街西边筑起了杏坛，建成了学堂。孔子穿着一身新儒服，登至杏坛中间，坐在紫红色椅子上。司仪宣布：“今天是开学典礼，隆重举行孔门弟子拜师仪式。弟子们在坛下排队，按序逐一登坛报名登记、交学费，通报简况、行拜师礼，聆听老师教诲。现在，拜师仪式开始，鸣炮奏乐——”办学的基本方针是“有教无类”，即招生对象不分贫富贵贱和民族国别。这个方针适应了春秋时期文化下移的潮流，突破了以前的贵族教育体制在出身、国别、族别等诸多方面的限制，迎合了广大富裕平民和被解放奴隶渴求教育的愿望，因而受到普遍的欢迎。一生从事教育达四十多年之久，学生众多。据史料记载有弟子三千人，其中才华出众、品德优良者七十二人。
他的学生遍布当时的许多诸侯国，计有鲁国、卫国、齐国、秦国、陈国、宋国、晋国、楚国、吴国、蔡国、燕国等。办私学，特别注意在教学内容方面进行大胆改革和开拓创新，除继续传授贵族和平民学校规定的礼、乐、射、御、书、数等六艺的内容外，还增加了不少新内容。孔子将这些内容概括为文、行、忠、信等四个方面。
文指文化课。孔子初期办学开设的主要课程是《诗》、《书》、《礼》、《乐》等，加上晚年增开的《易》和《春秋》等课程，他的文化课教学的内容已发展为以后汉朝人概括的新六艺，即《诗》、《书》、《礼》、《易》、《乐》和《春秋》了。特别提高《诗》在各科课程中的地位。诗歌是一种文学课，孔子第一次比较全面地论述了它的社会功能。
《书》又称《尚书》，分《夏书》、《商书》、《周书》等，是春秋以前的政治文献和历史传说。这些文献虽然在孔子以前的官学中已在传授，但仅仅是作为文字课。孔子首次将这些散乱的文字合成一部书，把它作为系统的历史教材向学生传授，要求他们通过对以往历史的学习和研究，鉴古知今，总结社会经验，汲取思想营养，提高自己的政治智慧和从政能力。
礼和乐虽然是孔子以前学校教育的传统课程，但是，以前对礼、乐的传授，重视的是典礼仪规和与诗结合在一起的具体乐曲。孔子承袭礼、乐作为教学内容，除了继续重视其固定的有形内容外，更着力开拓和丰富礼乐的内涵。他挖掘蕴藏在礼中的亲亲、尊尊以及人与人之间互敬互让的伦理道德内容，弘扬音乐陶冶性情的审美作用，从而把礼乐教育大大提高了一个层次。
鲁昭公二十年(公元前522年)夏，孔子的私学办得热火朝天，几十名学生热情地学习“六艺”。杏坛的声望在鲁国越来越高。这一切，无形中对季武子形成了强烈的冲击和挑战。一天，季武子对身边的亲信少正卯说：“国君和孟僖子都支持孔子办私学，若孔门弟子一旦形成政治势力，会有损于我的前程。”
少正卯于是开始设坛讲学。这个消息传开后，孔子明知这是与自己竞争，但却泰然处之。他一如既往地给学生讲授“六艺”知识，同时经常强调做学问的态度，“学习要从人生的经验中去体会，不能死读书或者读死书；学习，要经常实习；学习与做人是一回事，人不可能没有毛病，发现过错及时改正，才是真学问、真道德；我把学生叫做弟子，敬称为弟，爱称为子，咱们互相尊重，教学相长……”
少正卯故意在杏坛南边不太远的地方建学堂设教坛，工程完毕，取名卯坛。少正卯对着杏坛，大声宣称：“我少正卯是鲁国大夫，办的是官学，所有学生一律免交学费。”少正卯的规定一宣布，卯坛上涌进了不少学生，孔门弟子中也有一些转移到卯坛。并不因为杏坛上的学生数量减少而失望，继续按部就班地教学。同时，反复地给学生讲解做人的道理。他这样对学生说：“作为学生，学习的目的是为了做事。要把事做好，必须认识到做人的关键是培养君子之德，重视现实人生中的为人处世：能安贫乐道，生活不奢侈，不贪图安逸；培养高尚的道德，追求人格、精神淳正；敏于事，讷于言，慎于行；时刻注意向修养高的人请教……这样做，就可以说是从主要方面学会了做人，也是学习好学业的重要方面。”孔子的教导，使弟子们更加安心地读书学习。而卯坛上的弟子们则互争高低、攀比家境，乱哄哄的。杏坛上去的学生陆续返回，就连卯坛上也有一些学生被吸引过来。
少正卯见状，便利用自己在季武子手下的地位和影响，施展游说能力，登门拉拢孟懿子：“恭请您到我学堂就读并担当第一弟子，这有利于密切你与季孙相国的关系。您投在一个布衣门下，有何好处？”孟懿子答道：“我兄弟做孔门弟子是父亲的心愿。少正大夫虽然文才冠国，我兄弟亦不能做你的弟子了，还望原谅。”少正卯皮笑肉不笑地恳求说：“您总得给我点面子吧？您不做我的弟子，我聘请您做我的学监，帮助我办学，您该不会推辞了吧？”孟懿子点头答应了。
少正卯当面从怀中取出事先用绢写好的“聘书”交给孟懿子。当夜，少正卯又派了几个得力的弟子到孔门弟子的住处去游说拉拢。结果，第二天一开课，杏坛上又少了一些学生。的情绪并没有波动，反而坦然地说：“人各有志，择师随意，来去自便，思辨自主，去返不责。”孔子仍然有计划地依序传授“六艺”，并针对某些学生存在的做官的念头，加强了官德教育：“学习好的可以做官，做官很重要的一条，是必须具备官德，用良好的官德处理政治，就像天上的北极星一样有吸引力，满天星星都围绕它运行；做官，必须思想不走邪路，温柔敦厚、轻松愉快地为政，首先自己公正，才能政令畅通，其身正不令而行，其身不正虽令不从……”弟子们赞扬道：“老师讲的为政之道真透彻，如入仕途，定照此去做。”
孔门得意弟子纷纷表示：“跟老师学到底！”与此同时，卯坛因缺乏正确的教育思想，不少学生又流向杏坛。
少正卯在难以稳定教坛的情况下，去找季武子的另一个重要家臣阳货，商议对策。阳货说：“孔子是我的眼中钉，我一定帮助少正大夫挤垮杏坛。”第二天，傲慢粗鲁的阳货来到杏坛，对着杏坛高声喊叫：“杏坛上的弟子们听着，我阳货现在正式做了少正大夫的第一弟子！少正大夫的文才在鲁国数第一，他既做官又做老师，他办的是官学，隶属季孙相国。你们要知道，这样的官学培训的学生做官容易！想入仕途的，都来做少正大夫的学生吧！季孙相国能赐给你们官做！我也会推荐你们做官！来吧！快到卯坛来吧！不要错过了机会……”由于阳货的鼓动颇有诱惑力，一些动机不纯的学生便到卯坛上去了。
孔门弟子愤怒地议论开来。孔子示意学生不要生气，他心平气和地说：“学生跟谁学习都一样，我不在乎弟子多少。
但是，我主张学生自觉提高辨别能力，端正治学态度，就能成为国家的有用人才……
最后，杏坛得到巩固发展，卯坛以散伙告终。三十岁创办私学，因为教学内容丰富实用，教学方法新颖灵活，吸引了四面八方的学子慕名前来就学。经他教育的学生在学业和品德上进步很快，终于引起了鲁国贵族的注意。这一年，孔子三十四岁。从十七岁参加飨士宴被阳货无理拒绝，到三十四岁时受到鲁国贵族的瞩目，孔子十七年的奋斗终于使上流社会承认了他的价值。特别是贵族子弟主动登门就学，显示了他的私学比贵族学校更有优越性。