Das Museum entstand durch das Vermächtnis von Theodor Sandel (1861-1927). Er stammte aus einer Apothekerfamilie, die seit Generationen in Hohenlohe eine bedeutende Rolle spielte. Als Erbe einer wohlhabenden Familie besaß Sandel wertvolle Einrichtungsstücke und Sammlungen, die er ständig ergänzte. Durch Reisen nach Nordafrika kamen zahlreiche „exotische“ Stücke dazu. Das Hauptinteresse des Kriegsgerichtsrats galt aber der Heimatgeschichte. Das vorgesehene Heimatgeschichtsbuch konnte er jedoch nicht mehr veröffentlichen. Dies übernahm nach seinem Tod der Schriftsteller G. Harro Schaeff-Scheefen.
In dem Testament stiftete Theodor Sandel seine umfangreichen Sammlungen als Grundstock für ein neu zu gründendes Stadtmuseum: Möbel, Bilder, Fayencen, Zinn, Waffen, Münzen, vorgeschichtliche Funde, Mobiliar und Kunsthandwerk aus Nordafrika. Bis heute ist die Sammlung der wichtigste und umfangreichste Besitz des Museums
Im Jahr 1930 wurde das „Sandelsche Museum“ in der Kirchstrasse 19, neben dem heutigen Museum, eröffnet.
Seit 1973 befindet sich das Museum in der 1748 erbauten ehemaligen Lateinschule. Kurz darauf erhielt das Museum mit der Erzgebirgs-Sammlung eine besondere Abteilung. Nach der Wiedervereinigung Deutschlands löste sich die Sammlung in den 90er Jahren auf.
In den 80er Jahren bekam das Museum eine weitere umfangreiche Stiftung dazu: Der Schriftsteller G. Harro Schaeff-Scheefen und seine Ehefrau Caroline Schaeff übergaben Teile des literarischen Nachlasses und zahlreiche wertvolle Wohnungs- und Sammlungsstücke. Ergänzt wurde die Sammlung durch die Stiftung von historisch bedeutenden Objekten aus Kamerun, die Freiherr Kurt von Crailsheim aus Hornberg als Kolonialoffizier in Afrika gesammelt hatte. Hinzu kamen weitere Stiftungen, vor allem die Nachlässe von Kirchberger Malern (u.a. Hermann Schäfer, Hans-Emil Braun-Kirchberg).
In den Jahren 2002/2003 wurde das Gebäude grundlegend renoviert. 2004 wurde das Museum neu geordnetwieder eröffnet. Am 16. April 2007 wurde das Museum als „Vorbildliches Heimatmuseum 2007“ ausgezeichnet (der Wettbewerb „Vorbildliches Heimatmuseum“ wird alle zwei Jahre vom Arbeitskreis Heimatpflege im Regierungsbezirk Stuttgart e.V. veranstaltet).
2012 erhielt das Museum von dem früheren Stadtpfarrer Hans Dieter Haller als Schenkung eine wertvolle Hohenlohe-Bibliothek, die 1.600 Bücher umfasst und die im Bibliotheksraum besichtigt werden kann. Ebenfalls seit 2012 ist in der geologischen Abteilung eine Feuersteinsammlung zu besichtigen. Diese ging als Schenkung von dem Mitglied der Geologischen Abteilung des Museums- und Kulturvereins Kirchberg, Willy Glaser, an die Stadt.
Die Sammlungen im Museum
Das Sandelsche Museum hat in vier Stockwerken vier unterschiedliche Inhalte.
Im Untergeschoss befinden sich Themen der Geologie (Erdgeschichte) und Paläontologie (Frühgeschichte der Tier- und Pflanzenwelt). In der Geologie können die heute noch erkennbaren Spuren der 20 Millionen Jahre alten „Kirchberger Verwerfung“ im Felsbereich von Wand und Boden gezeigt werden. In der Paläontologie gilt das Hauptinteresse dem „ältesten Kirchberger“, dem „Stephanorinus Kirchbergensis“, einem 250.000 Jahre alten Waldnashorn, von dem Reste auf Kirchberger Markung gefunden wurden.
Im Erdgeschoss ist ein Foyer, das zugleich eine Bibliothek enthält, die neben wichtiger regionaler Literatur, einzelne Autoren und Verlage aus Kirchberg vorstellt. Der Hauptraum im Erdgeschoss ist der große Raum für Wechselausstellungen.
Im 1. Stock werden als „Merkmale der Geschichte“ besonders die Kriegszeiten, die Herrschaft von Geld und Recht, sowie die Baugeschichte der Stadt betrachtet. Eine Zusammenfassung der Stadtgeschichte bietet die Projektion einer „Chronik in Bildern“. Gegenüber sind die „Formen der Kultur“: Mit dem Thema „Kirche und Frömmigkeit“ wird deren, zumindest historische, Bedeutung deutlich. „Kunst im Handwerk“ zeigt die vielfältige Kreativität und bei „Vereine“ wird deren repräsentative Funktion in der Gesellschaft gezeigt. Hier wird die älteste erhaltene Fahne eines Gesangsvereins in Deutschland präsentiert.
Der 2.Stock empfängt mit einer Bildergalerie von Kirchberger Ansichten, darunter Werke bedeutender Künstler wie Paul Hey und Walter Strich-Chapell. Anschließend sind in dem Raum „Romantik in Kirchberg“ Werke von Kirchberger Malern zu sehen, sowie das Arbeitszimmer und Werke des Schriftstellers G. Harro Schaeff-Scheefen. Gegenüber sind in einem Raum drei Stifter mit Teilen ihrer Stiftungen: der Gründer Theodor Sandel als Großbürger und Nordafrikakenner; das Dichter- und Lehrerpaar Schaeff-Scheefen mit einer Wohnungseinrichtung im Stil des Biedermeier; die Trophäen und Sammlungen des Kolonialoffiziers Freiherr von Crailsheim. Schließlich ist ein Raum der ehemaligen Schule erhalten geblieben, in dem auch Unterricht im Museum abgehalten wird.
Im 3.Stock ist neben dem einsehbaren Depot ein Raum für Vorträge. Er ist dem in Kirchberg-Gaggstatt geborenen August Ludwig von Schlözer (1735-1809) gewidmet, dem bedeutenden Historiker und einflussreichen Publizisten der Aufklärung.