Согласно исламским верованиям, первым человеком на земле был пророк Адам (а), а первое здание, возведённое им, было мечетью. Это здание – Кааба.
После ниспослания откровения пророку Мухаммаду (с), первые мусульмане в Мекке тайно собирались в определённых домах, которые можно считать мечетями, и выполняли богослужения. Пишут, что первым свой дом в распоряжение первых мусульман отдал Аммар ибн Ясир. До переселения пророка в Медину в Мекке не было условий для возведения мечети.
Во время переселения в Медину мусульмане несколько дней провели в селе Губа, находящемся вблизи города. Именно тогда пророк Мухаммад (с) распорядился построить там первую мечеть. Эта мечеть считается первой мечетью в истории Ислама. После обоснования в Медине мусульмане построили там мечеть Пророка (Масджид аль-наби).