Особое своеобразие и очарование Музея в том, что он создавался при непосредственном участии самого Александра Борисовича Гольденвейзера. В 1955 году пианист, композитор, профессор и дважды ректор Московской консерватории А. Б. Гольденвейзер подарил государству свой архив и богатейшую библиотеку, а квартира музыканта стала первым филиалом ГЦММК имени Глинки – "Музеем истории фортепианного искусства".
В настоящее время Музей делится на две зоны – в мемориальной части проходят экскурсии, а в музыкальном салоне организуются выставки, мастер-классы, проводятся концерты фортепианной, камерно-инструментальной и вокальной музыки, объединённые в цикл "Музыкальные вечера в доме А.Б. Гольденвейзера"
Постоянная экспозиция Музея посвящена важнейшим страницам музыкальной и культурной жизни Москвы, начиная с 1880-х годов. На стенах – фотографии музыкантов нескольких поколений: учителей, сверстников и учеников А. Б. Гольденвейзера, его друзей, близких и родственников. Большое внимание уделено педагогической деятельности Александра Борисовича, которой он отдал более 55 лет.