１９１７年俄罗斯发生十月革命后，很多居住在俄罗斯的鞑靼人和穆斯林流亡国外，约有６００名穆斯林商人移居日本，其中约有２００人居住在东京附近。１９３８年５月１０日，在这里建成了一座拥有阿拉伯式穹顶的清真寺。
第一代清真寺是一座木造建筑，由于年久失修，１９８４年关闭，１９８６年被拆除。由于居住在日本的鞑靼人后来获得了土耳其国籍，东京土耳其人协会为了重建清真寺，将地皮捐赠给土耳其政府，委托土耳其政府重建。
土耳其以该国宗教局为首，成立了东京大清真寺建设基金，从土耳其国内筹集了很多捐款，除了水、水泥和钢筋之外，所有建筑材料和装饰品都从土耳其运来。清真寺在１９９８年６月３０日动工，２年后的２０００年６月３０日竣工开放。
清真寺的框架工程由鹿岛建设公司承担，内部装修和外部装饰的大部分利用了土耳其的材料，约１００名土耳其工匠花费１年时间装修了２层的礼拜堂和１层的文化中心。
东京大清真寺占地面积７３４平方米，建筑面积１６９３平方米，属奥斯曼风格，是日本少见的穹顶建筑，设计类似土耳其伊斯坦布尔的蓝色清真寺，在幽静的住宅街中大放异彩，高大的宣礼塔鹤立鸡群。
清真寺一层的土耳其文化中心展示了土耳其的美术品以及土耳其民宅的客厅等，并且设有举办讲座和婚礼等的大厅。礼拜堂内的二层供女性穆斯林做礼拜。每逢星期五主麻日，居住在东京周边的土耳其、巴基斯坦、印度尼西亚、马来西亚、孟加拉等国以及日本本土的穆斯林都会前往东京大清真寺做礼拜，人数达到三四百人。
目前，东京大清真寺隶属于土耳其驻东京大使馆，清真寺的水电费等由土耳其宗教局承担，清真寺的伊玛目也由土耳其宗教局派遣。在承担清真寺功能的同时，东京大清真寺还发挥了传播伊斯兰文化和土耳其文化的作用，平时免费开放，允许非穆斯林在注重着装的情况下参观并且听讲座。
责任编辑：小穆
