De acordo com informações dos antigos, o senhor José Pedro de Araújo, no ano de 1840, teria ali Chegado, depois de longa caminhada, fugindo da seca que castigava a região do Piancó, no Estado da Paraíba. Chegara a um lugar muito agradável, ainda não habitado, formando um extenso tabuleiro a espécie agreste, entre caatinga e os brejos da mata. No sopé da serra dos caboclos construim sua morada com frente para o oeste, onde se descortinava uma bonita paisagem com as longíquas serras e o seu horizonte azulado.
Mais tarde, em cima de uma pedra junto a sua residência, construi uma capela onde colocou a imagem de Nossa Senhora da Conceição, de seu oratório privado. Não tardou que se oficializasse a capela, sob a invocação da santa ali entronizada. Com as notícias alvissareiras mandadas aos seus parentes no sertão donde procedera, aos quais informava ter ele encontrado um terreno fértil, José Pedro de Araújo arrastou para o local outras pessoas que abandonaram Piancó para se locazarem no oásis agrestino dos Juremais.
Outras moradias, em consequência da imigração, foram surgindo e, à medida do desenvolvimento da prole organizou-se a povoação com o nome de Jurema. A palavra Jurema é de origem tupi-guarani significando espinho fétido. O desenvolvimento da povoação de Jurema, deu-se com a queda de Queimadas (antiga povoação bem desenvolvida, com feira etc) que em face de desordens praticadas na feira, houve necessidade de para ali se destacar um oficial de polícia.
De 1900 a 1925, o comércio local se desenvolveu bastante com a arrecadação de tributos pesando na balança do município de origem (panelas), já apresentando condições de se tornar independente. A Paróquia de Nossa Senhora da Conceição de Jurema foi criada pelo decreto nº 12, de 3 de dezembro de 1923. O município de Jurema só foi criado em 11 de setembro de 1928, pela lei nº 1931.
Parte integrante do leão do norte
De um povo ordeiro assaz laborioso
Terra cabocla de um formoso porte
És tu Jurema, Oh! Rincão formoso.
Lindo porvir
Dias de Glória (bis)
Virão surgir
Em tua história
Vais caminhada e vencedora
Serás do progresso larga estrada
És tu Jurema, cabocla sedutora
Pernambucana terra muito amada.
Paz duradoura, santa paz te almejam
Os filhos desta terra solo uberoso
É que os dias a vir, grandes te sejam
De bênçãos cheias de futuro ditoso.