Музей был основан в 1920 году и начал свою деятельность как краеведческо-педагогический кружок. В 1937 году учреждение было включено в состав Азербайджанского филиала Академии Наук СССР, а в 1945 году – в состав Института геологии.
В Музее Гобустанского государственного историко-художественного заповедника, внесенного в 2007 году в список Всемирного наследия ЮНЕСКО, представлены все типичные образцы местных петроглифов.