ऐसा कहा जाता है कि जब भगवान शिव मृत माँ देवी (हिंदी में माई) सती के शरीर को ले जा रहे थे, तो उनका हार (हिंदी में हर) इस स्थान पर गिरा और इसलिए इसका नाम “मैहर” पड़ा (मैहर = माई + हर, जिसका अर्थ है “माँ का हार”)। मैहर के स्थानीय लोगों के अनुसार, राजा परमर्दिदेव चंदेल के शासन के दौरान पृथ्वी राज चौहान के साथ लड़ने वाले योद्धा आल्हा और उदल, शारदा देवी के बहुत बड़े अनुयायी थे।
ऐसा कहा जाता है कि वे इस सुदूर जंगल में देवी के दर्शन करने वाले पहले व्यक्ति थे। उन्होंने माँ देवी को “शारदा माई” के नाम से पुकारा, और तब से वे “माता शारदा माई” के रूप में लोकप्रिय हो गईं। मैहर का इतिहास पुरापाषाण काल से जुड़ा है। यह शहर पहले मैहर रियासत की राजधानी था। राज्य की स्थापना 1778 में जोगी राजवंश द्वारा की गई थी, जिन्हें पास के ओरछा राज्य के शासक ने जमीन दी थी। (मैहर राजा ने एक और राज्य, विजयराघवगढ़ विकसित किया)। 19वीं शताब्दी की शुरुआत में यह राज्य ब्रिटिश भारत की एक रियासत बन गया और इसे मध्य भारत एजेंसी में बुंदेलखंड एजेंसी के हिस्से के रूप में प्रशासित किया गया। 1871 में मैहर सहित बुंदेलखंड एजेंसी के पूर्वी राज्यों को मध्य भारत में बघेलखंड की नई एजेंसी बनाने के लिए अलग कर दिया गया शासक का पद “राजा” है और वर्तमान शासक एचएच राजा श्रीमंत साहब अक्षय राज सिंह जू देव बहादुर हैं। राज्य का क्षेत्रफल 407 वर्ग मील (1040 किमी 2) था, और 1901 में इसकी जनसंख्या 63702 थी। राज्य, जिसे तामस नदी द्वारा सिंचित किया गया था, मुख्य रूप से बलुआ पत्थर को कवर करने वाली जलोढ़ मिट्टी से बना है, और दक्षिण के पहाड़ी जिले को छोड़कर उपजाऊ है। एक बड़ा क्षेत्र जंगल के नीचे था, जिसकी उपज से एक छोटा निर्यात व्यापार होता था। राज्य को 1896-1897 में अकाल से गंभीर रूप से पीड़ित होना पड़ा। शहर के चारों ओर मंदिरों और अन्य इमारतों के व्यापक खंडहर हैं।