Харківський історичний музей імені М. Ф. Сумцова веде свій родовід від Музею Слобідської України імені Григорія Савича Сковороди, створеного 21 січня 1920 року шляхом реорганізації мережі музейних закладів Харкова.
Сюди увійшли кращі колекції:
-
Музею витончених мистецтв і старожитностей Імператорського Харківського університету (1835-1837 рр.);
-
Харківського міського художньо-промислового музею (1886 р.);
-
Етнографічного музею Харківського історико-філологічного товариства (1904 р.).
Музей розміщувався в будинку колишнього художньо-промислового музею на Пролетарській площі.
Ім’я Григорія Савича Сковороди було присвоєно музею Слобідської України в 1922 році у зв’язку з 200-річчям з дня народження просвітителя.
Біля витоків музею Слобідської України стояв видатний вчений, етнограф, історик, громадський діяч, академік Микола Федорович Сумцов, широко відомий в Європі як дослідник народного побуту і світогляду. Микола Федорович Сумцов був першим директором музею (1920-1922 роки). Він особисто визначив структуру музею, що включала історичний, художній і етнографічний відділи та розробив наукові засади його діяльності.
Пріоритетним напрямком роботи музею було всебічне «…вивчення українського народного життя, насамперед місцевого, в усіх відображеннях її різноманітних галузів». Вчений розробив і впровадив спеціальну програму збирання етнографічних матеріалів у Охтирському, Харківському, Ізюмському, Старобєльському повітах Харківської губернії, організував експедицію у Курську губернію, займався вивченням і систематизацією колекцій.Експедиції під його керівництвом поповнили музей старовинними українськими кахлями, моделями помешкань, повною обставою покуття, народним вбранням, обрядовими печивами, зразками керамічного, чинбарського, ковальського, золотарського та інших виробництв, мистецькими витворами.
Складалися комплекси особистих матеріалів відомих діячів культури (Григорія Савича Сковороди, Григорія Федоровича Квітки-Основ’яненка, Микола Васильовича Гоголя, Якова Івановича Щоголева та ін.).
Основою художнього зібрання стала колекція картин та ескізів, яка заповідалася Сергієм Івановичем Васильківським. Подальше її поповнення було обумовлено регіональним характером музею. Колекції комплектувалися, в основному, витворами слобожанських художників.
Після смерті Миколи Федоровича Сумцова музей очолила його учениця і послідовниця Раїса Сергіївна Данківська. Вона намагалася здійснити нереалізовані задуми свого вчителя. Так, у травні 1925 року на базі музею відбулася Перша Всеукраїнська краєзнавча конференція, яка націлювала музеї на всебічне вивчення минулого та сучасності краю. При музеї були влаштовані етнографічні курси, створене Товариство друзів Музею Слобідської України, активним членом якого був відомий український історик Дмитро Іванович Багалій, музей видавав «Бюлетень», де друкувалися наукові праці з етнографії та звіти про роботу музею. Фонди музею у 1929 році налічували більше 21 тисячі експонатів.
На початку 30-х років ХХ століття більшість етнографічних установ була згорнута, наукові кадри зосереджені в Інституті історії матеріальної культури у Києві, а Музей Слобідської України імені Григорія Савича Сковороди з 1930 року став називатися Всеукраїнським історичним музеєм, пізніше — Українським державним історичним музеєм і, врешті-решт, Харківським державним історичним музеєм.
Напередодні Другої світової війни історичний музей був одним із найбільших музеїв України. В його фондах зберігалися понад 100 тисяч предметів. Це були численні археологічні, образотворчі колекції, багато інших пам’яток історії та культури Слобожанщини. В музеї працювали досвідчені фахівці своєї справи, такі як відомий археолог І. Ф. Левицький, мистецтвознавець Н. Л. Столбіна.