1923年，叶圣陶正式进商务印书馆编译所国文部当编辑。1927年5月，郑振铎去欧洲游学，他代郑主编《小说月报》。 在他任主编的两年里，《小说月报》发表了许多青年作家的作品，如茅盾的第一部小说《幻灭》、巴金的处女作《灭亡》、丁玲的处女作《梦珂》以及戴望舒、施蛰存的早期作品等。巴金在一篇回忆文章中写道：“倘使叶圣陶不曾发现我的作品，我可能不会走文学的道路，做不了作家，也很有可能早已在贫困中死亡。”因此，他被誉为文学界的“伯乐”。他后来还编过《妇女杂志》、《学生国学丛书》。1930年，开明书店创办《中学生》杂志，他离开商务，去了开明。