서학변(西學辨)은 18세기 초 조선 후기의 실학자이자 성리학자인 신후담(愼後聃, 1702~1761)이 저술한 책이다. '서학(西學)'은 당시 조선에 전래된 서양 학문, 특히 천주교(그리스도교) 교리를 가리키며, '변(辨)'은 분별하여 논박한다는 의미로, 제목은 '서학을 논박하다'라는 뜻을 담고 있다.
신후담은 성호 이익(李瀷)의 문인으로, 1724년(영조 4년)에 이익으로부터 처음 서학에 대해 들은 뒤 관련 서적을 구해 읽고 이 글을 지은 것으로 알려져 있다. 다만 일부 학자들은 깊이 있는 논평 내용으로 보아 원숙기에 접어든 후기 작품으로 보는 것이 타당하다는 견해도 제시하고 있다.
이 책에서 신후담은 명나라 때 중국에서 활동한 예수회(야소회, 耶蘇會) 선교사들의 저술을 비판하였다. 구체적으로 삼비아시(F. Sambiasi, 畢方濟)의 《영언여작(靈言蠡勺)》과 마테오 리치(M. Ricci, 利瑪竇)의 《천주실의(天主實義)》를 주요 비판 대상으로 삼았다. 《천주실의》에 대해서는 천지창조설 등을 일일이 논박하였고, 《영언여작》에 대해서는 서학에서 주장하는 영혼의 자립성과 불멸성을 부정하였다. 그리스도교의 교리, 영혼관, 사후세계설, 하느님관 등을 성리학적 관점에서 신랄하게 비판하는 내용을 담고 있다.
원저(原著)는 아직 발견되지 않았으며, 다만 이만채(李晩采)가 편저한 《벽위편(闢衛編)》 제1권 14면에서 47면에 걸쳐 수록된 내용이 현존하는 유일한 자료이다. 이것이 《서학변》의 전부인지, 혹은 발췌한 것인지는 확인되지 않았다. 원명은 《둔와서학변(遯窩西學辨)》으로, '둔와'는 신후담의 호이다. 필사 원본은 국립중앙도서관에 소장되어 있다.
《서학변》은 조선 후기 서학(천주교)에 대한 성리학적 비판의 대표적 저술로, 당시 지식인들의 서양 사상 수용과 배척의 양상을 이해하는 데 중요한 사료로 평가된다.