고대 시대 기원전 3천년경부터 가나안 사람들이 거주했으며, 기원전 2천년기 후반에는 이집트의 영향력 아래에 있었다. 기원전 13세기경에는 "바다 민족" 중 하나로 알려진 필리스틴족(블레셋족)이 해안 지역에 정착하여 "팔레스타인"이라는 이름의 어원이 되었다. 같은 시기에 히브리 민족(이스라엘 민족)이 이 지역에 들어와 정착했으며, 이후 사울, 다윗, 솔로몬 왕국을 거쳐 이스라엘 왕국과 유다 왕국으로 나뉘었다. 이스라엘은 기원전 722년 아시리아에 의해, 유다는 기원전 586년 신바빌로니아에 의해 멸망했다. 이후 페르시아 제국, 헬레니즘 시대의 알렉산드로스 제국과 그 후계 국가들, 로마 제국의 지배를 받았다. 로마 시대에는 유대인들이 여러 차례 반란(제1차 유대-로마 전쟁, 바르 코크바의 난 등)을 일으켰으나 실패했고, 그 결과 많은 유대인이 디아스포라(이산)하게 되었다. 로마는 유대 속주의 이름을 시리아 팔레스티나로 변경하며 유대 민족과의 연관성을 지우려 했다.
비잔틴 제국 및 초기 이슬람 시대 로마 제국이 동서로 분리된 후 팔레스타인은 동로마 제국(비잔틴 제국)의 지배를 받으며 기독교의 중요한 중심지가 되었다. 7세기(638년)에는 이슬람 칼리프 우마르에 의해 정복되어 이슬람 세계에 편입되었다. 이후 우마이야 왕조, 아바스 왕조 등 여러 이슬람 왕조의 통치 아래 있었으며, 점차 아랍어와 이슬람 문화가 확산되었다.
십자군 및 맘루크 시대 11세기 말, 유럽의 십자군이 성지를 탈환하기 위해 팔레스타인으로 진격하여 예루살렘 왕국 등 십자군 국가들을 세웠다. 그러나 13세기 말, 이집트를 기반으로 한 맘루크 왕조에 의해 십자군 세력은 완전히 축출되었다. 맘루크 왕조는 16세기 초까지 팔레스타인을 지배했다.
오스만 제국 시대 1517년, 오스만 제국이 맘루크 왕조를 정복하며 팔레스타인은 오스만 제국의 영토가 되었다. 이후 약 400년 동안 오스만 제국의 시리아 속주의 일부로 평화로운 시기를 보냈다. 19세기 후반부터는 시오니즘(유대 민족주의) 운동이 확산되며 유럽 각지에서 유대인들이 팔레스타인으로 이주하기 시작했고, 이는 점차 아랍 민족주의와 충돌하는 양상을 띠게 되었다.
영국 위임통치 시대 (1918-1948) 제1차 세계대전 중 영국은 오스만 제국에 대항하는 아랍인들에게 독립을 약속하는 한편(맥마흔-후세인 서한), 프랑스와 비밀리에 팔레스타인을 포함한 오스만 영토를 분할하기로 합의하고(사이크스-피코 협정), 유대인들에게 팔레스타인에 "유대 민족국가" 건설을 지지한다는 내용의 선언(밸푸어 선언)을 발표하는 등 상충되는 약속을 했다. 전쟁 후 오스만 제국이 해체되자 1922년 국제연맹은 팔레스타인 지역에 대한 영국의 위임통치권을 승인했다. 이 시기 유대인 이민이 급증하면서 아랍인과 유대인 간의 갈등은 격화되었고, 여러 차례 유혈 충돌이 발생했다. 영국은 양측의 요구 사이에서 중재를 시도했으나 성공하지 못했다.
1948년 이후 제2차 세계대전 후 영국은 팔레스타인 문제 해결을 유엔에 넘겼다. 1947년 유엔은 팔레스타인 분할 결의안(제181호)을 채택하여 유대 국가와 아랍 국가를 수립하고 예루살렘을 국제 관리 지역으로 지정할 것을 제안했다. 유대인 측은 이를 수용했으나 아랍 측은 반대했다. 1948년 영국 위임통치 종료와 동시에 이스라엘 건국이 선포되었고, 이에 반발한 아랍 국가들과 이스라엘 간에 제1차 중동 전쟁(팔레스타인에서는 '나크바', 대재앙으로 불림)이 발발했다. 전쟁 결과 이스라엘은 유엔 분할 결의안보다 더 넓은 영토를 차지하게 되었고, 수십만 명의 팔레스타인 아랍인들이 난민이 되었다. 나머지 웨스트뱅크는 요르단에, 가자 지구는 이집트에 편입되었다.
1967년 제3차 중동 전쟁(6일 전쟁)에서 이스라엘은 가자 지구, 웨스트뱅크, 동예루살렘, 시리아의 골란 고원, 이집트의 시나이 반도를 점령했다. 이로써 이스라엘은 모든 역사적 팔레스타인 지역을 장악하게 되었다. 이후 팔레스타인 해방 기구(PLO)가 결성되어 팔레스타인 민족의 독립을 위한 투쟁을 전개했다. 1987년과 2000년에는 팔레스타인 주민들의 대규모 저항 운동인 인티파다(민중 봉기)가 발생했다. 1990년대에는 오슬로 협정을 통해 팔레스타인 자치 정부(PNA)가 수립되었으나, 최종적인 평화 협상은 이루어지지 않고 이스라엘의 점령과 팔레스타인 분쟁은 현재까지 이어지고 있다. 웨스트뱅크와 가자 지구는 국제법상 이스라엘의 점령지로 남아있으며, 정착촌 건설, 봉쇄 정책 등으로 인해 긴장이 계속되고 있다.