Urodził się 21 września 1883r. w Józefce. Ukończył miejscową szkołę ludową, a następnie kształcił się w gimnazjum w Bytomiu. Po maturze rozpoczął studia teologiczne na Uniwersytecie Wrocławskim. 22 czerwca 1908r. przyjął święcenia kapłańskie z rąk kardynała Georga Koppa. Przez kolejnych 14 lat ksiądz Józef Czempiel pełnił posługę w różnych miejscowościach Śląska Górnego i Opolskiego. Już wówczas dał się poznać jako wyczulony na problemy społeczne kapłan, otaczający szczególną troską rodziny dotknięte różnymi patologiami, w tym tragedią alkoholizmu. Jednocześnie dokładał on starań o pogłębienie życia sakramentalnego, zwłaszcza eucharystycznego, wśród powierzonych swej opiece wiernych. W okresie polsko – niemieckich zmagań o przynależność państwową Górnego Śląska ksiądz Józef Czempiel należał do orędowników przyłączenia tej ziemi do odradzającej się Rzeczypospolitej. Z jego inspiracji i przy jego aktywnym udziale założono wówczas na obszarze plebiscytowym szereg organizacji społeczno – kulturalnych o polskim obliczu narodowościowym. Po ostatecznym ustaleniu granic ksiądz Czempiel skierowany został do Wielkich Hajduk (obecnie Chorzów Batory), gdzie objął stanowisko proboszcza parafii Wniebowzięcia Najświętszej Marii Panny. Funkcję tę pełnił aż do 13 kwietnia 1940r., kiedy to został wywołany z konfesjonału i aresztowany przez funkcjonariuszy gestapo w ramach akcji zwalczania polskiej inteligencji. Ostanie dwa lata życia, spędzone w obozach w Dachau i w Mauthausen – Gusen, przyniosły księdzu Czempielowi wiele cierpień. Jak wynika z relacji świadków, chorzowski dziekan zachował pogodę ducha nawet w obliczu zbliżającej się śmierci. Został zagazowany w specjalnie przystosowanym do uśmiercania skazańców samochodzie, najprawdopodobniej czwartego maja 1942 roku. Jego ciało zostało skremowane, a prochy rozsypane w nieznanym miejscu.
