5 февраля 1982 года на заседании исполкома Белгородского городского Совета народных депутатов было решено передать на баланс городского отдела культуры здание по проспекту Ленина, 61 (бывшая Императорская, ныне Гражданский проспект) для организации в нем художественного музея. 26 июля 1983 года большой выставкой художников-баталистов студии имени М.Грекова "На страже Родины" в нем открылся БГХМ.

В 1983 г. Белгородский областной художественный музей принял своих первых посетителей, а его сотрудники начали активную работу по комплектованию музейного собрания: приобретали произведения изобразительного искусства у самих авторов или их наследников, в художественных салонах крупных городов или у коллекционеров. По приказам Министерства культуры РСФСР в новый художественный музей в разные годы было передано большое количество произведений живописи, графики, скульптуры и декоративно-прикладного искусства советских художников из Республиканского центра художественных выставок и пропаганды изобразительного искусства "Росизопропаганда" и Всесоюзного художественно-производственного объединения имени Е. В. Вучетича. Свои работы передавали в музей белгородские авторы и художники из других регионов страны. Так художественный музей в Белгороде стал обладателем довольно значительной коллекции произведений советского изобразительного искусства.

Сегодня, как и в начале своего пути, Белгородский художественный музей собирает произведения отечественного изобразительного искусства. Живописные и графические работы, скульптура, иконы, предметы декоративно-прикладного искусства поступают в музей с различных выставок, фестивалей и конкурсов, приобретаются у авторов и передаются музею в дар.

С 1990 года музей ведет комплектование иконописи. В 2011 г. началась работа по комплектованию коллекции художественной фотографии. Формирование как можно более полного музейного собрания, отражающего основные этапы развития отечественного изобразительного искусства, — приоритетная задача для Белгородского государственного художественного музея.

12 декабря 2004 года Постановлением Правительства Белгородской области № 262 было принято решение о строительстве Художественной галереи. Новое трехэтажное здание было возведено в 2006 — 2007 гг. по проекту архитекторов В.Перцева и В.Турченко. Интерьер здания интересен своим плавно меняющимся пространством, изогнутым очертанием стен, богатым декором из резного дерева, цветного стекла и кованого металла; при работе над ним использовались классические приемы стиля "русский модерн". С 27 ноября 2007 года выставкой произведений председателя Союза художников России В.Сидорова "На теплой земле" открылось новое здание музея.

Особенностью Белгородского государственного художественного музея является то, что в нем в основном представлено русское (советское) изобразительное искусство XX века. Хронологически собрание охватывает период с первого десятилетия XX века по сегодняшний день.