Grundades 1979 av palestinska studenter i Egypten som hade splittrats från palestinska Muslimska brödraskapet i Gaza-remsan. Grundarna påverkades av den islamiska revolutionen i Iran samt radikalisering och militans av egyptiska muslimska studentorganisationer. De underhöll nära förbindelse med radikala islamiska egyptiska studenter, några av dem var inblandade i mordet på president Sadat, och som ett resultat, de palestinska islamiska radikalerna var utvisas från Egypten och återvände till Gazaremsan, där de formellt började sin verksamhet som islamiska Jihad organisation. Under 1980, flera andra grupper av palestinska islamiska Jihad bildades, men den fraktion som har överlevt är detta en, en som Professor Sami al-Arian var allegedly arbetar med.