Die Tradition der israelitischen Gemeinde in Oberelsbach ist lang. In der Chronik der Gemeinde findet sich ein Verweis auf ein Verzeichnis aus dem Jahr 1699, in dem 15 jüdische Oberelsbacher aufgelistet sind. Die Zahl der jüdischen Bewohner schwankte. Im 18. Jahrhundert waren es mal bis zu 40, dann wieder nur fünf. Im 19. und Anfang des 20. Jahrhunderts blieb der Anteil der jüdischen Oberelsbacher konstanter bei sechs bis sieben Prozent. Im Jahr 1900 zum Beispiel waren 904 Oberelsbachern 54 jüdisch.
1810 wurde der israelitischen Kultusgemeinde ein Grundstück geschenkt, auf dem eine erste Synagoge entstand. Die wurde beim großen Brand von 1895 ein Raub der Flammen. 1898 wurde das heute noch existierende Gebäude errichtet und ein Jahr später feierlich eingeweiht. In der heutigen Steingasse war das rituelle Bad.
Das Zusammenleben zwischen Christen und Juden scheint problemlos verlaufen zu sein. Tennen wurden gemeinsam genutzt, an der Gründung des Turnvereins 1910 waren auch jüdische Oberelsbacher beteiligt und im Ersten Weltkrieg fielen zwei von ihnen, deren Namen auch auf dem Kriegerdenkmal verzeichnet wurden.
Die Lage änderte sich auch mit der Machtübernahme der Nationalsozialisten nur langsam. Ortsbewohner ignorierten Boykottaufrufe und kauften weiter bei jüdischen Kaufleuten. Nichtjüdische Frauen arbeiteten mit stillschweigender Duldung der Ortsoberen bei jüdischen Familien. Als sich die Lage aber gegen Ende der 30er-Jahre immer mehr verschlechterte, wanderten viele Juden aus Oberelsbach aus.
Am 1. Oktober 1938 wurde die Synagoge von der Kreisbauernschaft beschlagnahmt und musste geräumt werden, dabei kam es zu Gewalt gegen Juden, was wiederum für Empörung bei den Oberelsbachern sorgte. Das war auch der Fall, als es in der Pogromnacht vom 9. auf 10. November 1938 zu heftigen Ausschreitungen kam. Jüdische Häuser und Wohnungen wurden demoliert, Lebensmittel und Kleidungsstücke vernichtet, mehrere Männer verhaftet.
Wenige Monate später wurden fast alle noch in Oberelsbach lebenden Juden in einem Haus zusammengepfercht, ihre Häuser zwangsverkauft. Der Familie von Max Silbermann gelang als letzter im Oktober 1939 die Auswanderung.
Am 22. April 1942 wurden dann Selma Haas, Betty Silbermann, Moritz und Marianne Kahlein zunächst nach Bad Neustadt, von dort mit Neustädter Juden nach Würzburg und am 25. April mit dem Transport unterfränkischer Juden in den Raum Lublin gebracht. Niemand überlebte.
Die Geschichte der Juden in dem Rhöndorf endet dann im Juni 1942, als Rosalia Haas und Heinrich Silbermann, die beiden letzten verbliebenen Juden in ein jüdisches Altenheim nach Würzburg eingewiesen. Von dort wurden sie später nach Theresienstadt deportiert, wo beide ums Leben kamen.