Свое имя Ермолаевский переулок получил по названию несохранившейся церкви Святого Ермолая «что на Козьем болоте», построенной в XVII веке. Сейчас на этом месте проходит Малый Козихинский переулок. Дом, в котором расположен музей, построен по проекту Д. С. Маркова в 1915 году для Московского архитектурного общества на вклады архитекторов. В этом здании общество размещалось до 1932 года, когда было распущено. Последним его председателем с 1922 по 1932 годы был московский архитектор А. В. Щусев. В советское время дом принадлежал Московскому союзу художников, здесь проводились молодежные выставки, и располагались творческие мастерские. По стилистике здание относится к популярному в свое время неоклассицизму, пришедшему на смену модерну.

3 декабря 2003 года здание было открыто для посетителей как выставочная площадка Московского музея современного искусства. Сегодня в Ермолаевском переулке располагается Образовательный центр ММОМА, миссия которого стать платформой для самообразования, творческих и социальных инициатив, академических исследований и способствовать интеграции в общество не включенных в культурную жизнь социальных групп.