昌吉回民建立第一个宗教活动寺点，是在昌吉建县之初的1773年(清乾隆三十八年)。当时昌吉县城有回民大户13家，为了“立五功”、行礼拜，他们倡议回民捐资出工，并经官府准予，在县城内西南角建立两间土木结构、面积约40余平方米的礼拜“哨麻”。当时人称“清真教堂”。
 

    至清乾隆末年，昌吉城区回民增至50余户，原“哨麻”已显得过于窄小，于是便商议重新修建清真寺。当时清政府对回民己较前宽容，所以同意了回民的请求，由他们自愿集资捐物，在原“清真教堂”的地址上正式建起了昌吉县第一座清真寺。同治年间，一部分回民要求分坊，另有清真寺建立，为示区别，原来的清真寺便称“本地寺”。清同治末年，此寺曾毁于战火。
 

    光绪初年，除少部分人外，回民大部分迁出城外居住到南关街。1878年(清光绪四年)，本地寺坊民在南关老西街今址，重新修建了本地寺。1933年(民国22年)，此寺又毁于战火。
 

    1936年，在原寺址上，又重新修建了本地寺。
 

    本地寺第一任掌教阿訇，己无从考证。从清朝后期的咸丰年代到民国前期的掌教阿訇依次为：胡子马阿訇、挑州马阿訇、老哈山阿訇(先后两任21年)、马海学(经文古拜)。民国时期的掌教阿訇先后有：李谷热、马彦忠、马俊杰、陈明月、李彦明、马永寿、马文俊、沙顺真、马奎元、马正忠、杨智等。
 

    历史上建于昌吉县城的伊斯兰教清真寺还有：陕西寺，回民清真寺，初建于1862年(清同治元年)；兰州寺，回民清真寺，初建于1882年(清光绪八年)；喀什寺，维吾尔族清真寺，初建于1905年(清光绪三十一年)；吐鲁番寺，维吾尔族清真寺，初建于1911年(清宣统三年)；西河寺，回民清真寺，初建于1914年(民国3年)。
 

    此外，建于昌吉县乡村而历史又较久的回民清真寺还有头屯清真寺，大军户清真寺，头工清真寺，六工寺，河州工寺，移户寺，沙梁子寺，新户寺，广东户寺，二工寺，榆树沟寺等。
昌吉市的哈萨克族清真寺始建于中华人民共和国成立后的 20世纪80年代。