기하학에서 별(star)은 별 모양의 형태를 가진 도형을 가리키며, 영어로는 star polygon(별 다각형)이라고 한다. 이는 볼록하지 않은(non-convex) 다각형의 한 유형으로, 정별 다각형(regular star polygon)은 자기 자신과 교차하는(self-intersecting) 등변(equilateral) 및 등각(equiangular) 다각형으로 정의된다.
정별 다각형은 슐레플리 기호(Schläfli symbol) {p/q}로 표기된다. 여기서 p는 꼭짓점의 개수, q는 밀도(density)라고 불리며, p와 q는 서로소(relatively prime)이고 q ≥ 2이다. 밀도는 다각형의 회전수(turning number)라고도 하며, 모든 꼭짓점의 회전각의 합을 360°로 나눈 값이다. {p/q}의 대칭군은 q와 무관하게 위수 2p의 정이면체군(dihedral group) Dp이다. 일반적으로 p ≥ 5, 1 < q < p/2 범위에서 정의된다.
정별 다각형은 정p각형의 한 꼭짓점에서 출발하여 인접하지 않은 다른 꼭짓점을 q번째 간격으로 연결하는 방식으로 구성된다. 예를 들어 정오각형에서 한 꼭짓점에서 두 번째 꼭짓점을 건너 세 번째 꼭짓점으로 연결하는 과정을 반복하면 오각성(pentagram) {5/2}이 얻어진다. q ≥ p/2인 경우 {p/q}는 {p/(p−q)}와 동일한 다각형이 되지만, 꼭짓점에 도달하는 방향이 반대가 되어 고차원 정다포체에서 차이가 발생한다.
p와 q가 서로소가 아닌 경우, 꼭짓점과 변이 일치하는 퇴화(degenerate) 다각형이 나타난다. 예를 들어 {6/2}는 삼각형처럼 보이지만, 이는 두 개의 겹친 삼각형이 아니라 하나의 이중감김(double-winding) 단일 육각형으로 간주된다.
정별 다각형에 대한 체계적인 연구는 14세기 영국의 수학자 토머스 브래드워딘(Thomas Bradwardine)이 처음 수행하였고, 이후 17세기 요하네스 케플러(Johannes Kepler)가 심화 연구하였다. 케플러는 1619년 저서 《Harmonices Mundi》에서 정별 다각형을 정다각형의 변을 연장하여 만나는 점에서 새로운 꼭짓점을 형성하는 방식(egredient angles)으로 정의하였다.
별 다각형의 명명법은 숫자 접두사(예: penta-)와 그리스어 접미사 -gram(γραμμή, '선'을 의미)을 결합한다. 예를 들어 pentagram(오각성), hexagram(육각성), heptagram(칠각성), octagram(팔각성) 등이 있다. 9개의 뿔을 가진 다각형은 enneagram(에니어그램) 또는 nonagram(노나그램)이라고 한다.
별 다각형의 내부 영역을 정의하는 방식은 여러 가지가 있다. 첫째, 선분의 한쪽을 외부, 다른 쪽을 내부로 처리하는 방식(컴퓨터 벡터 그래픽에서 흔히 사용됨). 둘째, 다각형 곡선이 특정 영역을 감는 횟수(밀도)에 따라 내부를 결정하는 방식(다면체의 수학적 처리에서 사용됨). 셋째, 두 변 사이에 선분을 그릴 수 있는 영역을 내부로 처리하는 방식(물리적 모형 제작에서 사용됨). 이 세 가지 접근법은 각각 다른 면적 값을 산출한다.
별 다각형은 예술과 문화에서 널리 사용된다. 오각성(pentagram)은 고대부터 마법적, 종교적 상징으로 사용되었으며, 육각성(hexagram)은 다윗의 별(Star of David)로 알려져 유대교의 상징이다. 팔각성(octagram)은 무굴 제국 이슬람 예술과 건축에서 자주 나타나며, 아제르바이잔의 국장에 사용된다. 별 도형이 3차원으로 확장되면 케플러-푸앵소 다면체(Kepler-Poinsot polyhedron)와 같은 정별 다면체(regular star polyhedron)가 된다.
별 모양의 도형은 많은 국가의 국기에도 사용된다. 미국(50개), 중국(5개), 이스라엘(육각성), 호주(칠각성), 아제르바이잔(팔각성) 등이 대표적이다. 또한 군대의 장성급 장교 계급장, 스포츠 팀의 우승 기념 엠블럼 등 다양한 분야에서 상징으로 활용된다.
