भगवान श्री कृष्ण, युद्धवीर बरबरीक के महान त्याग से प्रसन्न होकर उन्हें यह वरदान दिया कि कलियुग में वह श्याम के नाम से प्रसिद्ध होंगे। क्योंकि उस युग में केवल वही लोग श्याम का नाम लेने योग्य होंगे, जो पराजित का साथ देंगे। उनका सिर खाटू नगर (जो वर्तमान में राजस्थान के सीकर जिले में स्थित है) में दफनाया गया, इस कारण उन्हें खाटू श्याम बाबा कहा जाता है।
एक गाय रोज़ वहाँ आकर स्वाभाविक रूप से अपने थनों से दूध छोड़ देती थी। बाद में, खुदाई करने पर सिर मिल गया, जिसे कुछ समय के लिए एक ब्राह्मण को सौंपा गया। एक दिन, खाटू नगर के राजा को एक स्वप्न में प्रेरणा मिली कि वहाँ एक मंदिर बनाया जाए और सिर को मंदिर में प्रतिष्ठित किया जाए। इस प्रकार, उस स्थान पर एक मंदिर का निर्माण हुआ, और सिर को कार्तिक माह की एकादशी के दिन प्रतिष्ठित किया गया, जिसे बाबा श्याम का जन्मदिन के रूप में मनाया जाता है।
मूल मंदिर 1027 ईस्वी में रूप सिंह चौहान और उनकी पत्नी नरमदा कंवर द्वारा बनाया गया था। 1720 ईस्वी में, मारवाड़ शासक के दीवान अभय सिंह के निर्देशों पर मंदिर का नवीनीकरण हुआ। मंदिर को अपनी वर्तमान रूप-रंग मिला और भगवान की मूर्ति को गर्भगृह में स्थापित किया गया। यह मूर्ति एक दुर्लभ पत्थर से बनाई गई है। खाटू श्याम कई परिवारों के कुलदेवता हैं।
