Op grond van een Keuls document uit 1270, waarin melding wordt gemaakt van een Jood uit Heerlen, is het aannemelijk dat er in de Middeleeuwen al Joden in Heerlen geweest zijn. Begin achttiende eeuw vestigen zich enkele Joodse families definitief in de plaats. In 1726 bestaat de gemeenschap uit zes gezinnen. Voor hun godsdienstoefeningen komen ze bijeen in een huissynagoge. De eerstesynagoge stond aan de toenmalige Veemarkt bij het huidige Wilhelminaplein en de Dautzenbergerstraat. De inwijdingsdatum is niet bekend, maar het gebouw werd in 1852 opgeknapt. In 1898 werd een vrouwengenootschap opgericht, dat zich bezig hield met het onderhoud van de synagoge. Een opvallend groot aantal Joden in Heerlen was gedurende de eerste helft van de achttiende eeuw werkzaam als vleeshouwer. In 1778 werd er, na enig onderhandelen, een begraafplaats ingericht, gelegen achter Huis de Croon aan de Dorpsstraat (nu Emmastraat). Toen deze begraafplaats aan het einde van de achttiende eeuw vol dreigde te raken is in 1811 een nieuwe Joodse begraafplaats aan de Schinkelsteeg (de huidige Stationsstraat) aangelegd. Vanaf rond 1900 werden de Heerlense Joden begraven aan de Akerstraat, naast de Algemene begraafplaats. In 1936 werd aan de Stationstraat, boven de oude Joodse begraafplaats, een nieuwe synagoge gebouwd.

Ten gevolge van de machtsovername in Duitsland door de nazi's kwamen er in de dertiger jaren veel Joodse vluchtelingen naar Heerlen en Kerkrade.
Na de verwijdering van de Joodse leerlingen uit het algemene onderwijs in september 1941 werd in Heerlen een Joodse school opgericht, die tot februari 1943 bestaan heeft. Van de in Heerlen verblijvende Joden is ongeveer de helft tijdens de oorlogsjaren omgebracht. Dankzij de activiteiten van dominee Pontier en de illegale NV-groep onder leiding van Jaap Musch konden in Heerlen en omgeving veel Joden, waaronder ongeveer honderd kinderen, onderduiken. Het interieur van de synagoge werd geplunderd en vernield. De Torarollen en de rituele voorwerpen, die bij wijze van voorzorg naar Amsterdam waren gebracht, zijn daar verloren gegaan. De lege synagoge werd als opslagruimte gebruikt.

Na de bevrijding van het zuiden van Nederland werd de synagoge op 6 januari 1945 heringewijd. In 1959 onderging het gebouw een renovatie. Door de terugloop van het aantal gemeenteleden is de synagoge sinds 1985 niet meer in gebruik. Uit dit gebouw is een plaquette ter nagedachtenis van de Joodse slachtoffers van de bezetting overgebracht naar de begraafplaats aan de Akerstraat. Deze begraafplaats wordt door de plaatselijke autoriteiten onderhouden. Op 4 mei 1998 werd aan de Akerstraat een zwart granieten monument onthuld met de 62 namen van de omgekomen Heerlense Joden.

De Joodse gemeenten van Heerlen, Roermond en Maastricht zijn in 1986 gefuseerd tot de NIHS Limburg.