小桃园清真寺坐落在上海旧城区复兴东路近河南南路路口小桃园街，这座清真寺不仅是上海礼拜场所，也经常接待来自世界各地的。

      上海从1842年辟为商埠后，对外贸易渐趋发展，市场经济日益繁华，来沪定居的逐年增多。1917年12月上海清真董事会金子云董事（经名：汉志尔俩纹底尼），以其所购的西仓桥街117号占地2.221亩的花园住宅捐献作为清真西寺。由于岁月变迁，这个名噪一时的小桃园终于湮灭无闻，原小桃园之名，却沿袭下来，用作街名。人们为了使清真寺名称不相混淆，就把这座清真西寺称为小桃园清真寺。

      小桃园清真寺是一座具有伊斯兰特色，拥有三层楼房的雄伟建筑。寺院大门上方，有金光闪闪的清真寺三个大字，笔势刚劲有力。大字下边有一行阿拉伯文，意为“真主的宗教是伊斯兰教。”大门上首有伊斯兰教历1343年的字样，标志着小桃园清真寺翻建的起始年份。清真寺的主要建筑是礼拜大殿和礼拜二殿，礼拜大殿的东边，建有中国式三层楼房1幢。二、三层楼是藏书室和会议室，底层为讲经堂。

      上海伊斯兰师范学校于1928年成立初期，在小桃园清真寺内对厅开学上课。此后该址曾开办过上海回教孤儿教养所，最多时招收30名孤儿学生。上海辟为通商口岸后，我国去圣地麦加朝觐，往往经上海出洋前往，1917年，小桃园清真寺创立后，朝觐者遂寄居于此，并提供伙食上的方便。

      小桃园清真寺第一任教长为穆春山，历任教长有李振基、李仁山、尹学海、马傲吾、定子彦、马宜亭、马人斌。