Первая мечеть в Орской крепости появилась в конце XVIII столетия. В 1780-х гг. при мечети были организованы первые мусульманские школы: мектеб и медресе.

На рисунке английского художника Р. Поля, датированного 1852 годом, мы можем рассмотреть старое здание мечети с высоким минаретом. Однако пожар 1888 года, уничтоживший большую часть построек в историческом центре Орска, затронул в том числе и старую деревянную мечеть.

Новое каменное здание мечети было возведено в 1900 году за счёт средств, выделенных меценатом Дербисалы Беркимбаевым. Вскоре рядом открывается здание медресе (училища) и дом для имама.