알티수학 쌤 비법공개 #9 - 입체도형 색칠 방법 수 간단 계산법, 정다면체 숏컷 색칠 공식 유도 (feat. 궤도-안정자 정리, 대칭군)
이 글에서는 "정다면체의 각 면을 칠하는 방법의 수" 와 같은 문제를 간단하게 풀 수 있는 방법에 대해 써보겠습니다. 어떤 다면체든 단순 계산으로 처리하는 방법도 포함시켰습니다.
지난번에 2차원 평면 도형의 색칠 문제(순환그래프 C₄)를 다룬 적이 있습니다. 오늘은 3차원 입체도형 에 관한 문제입니다.
1. 정다면체 색칠 공식
먼저 공식부터 알려드리자면,
정다면체의 모든 면을 서로 다른 색으로 칠하는 경우의 수 는 아래 공식으로 구할 수 있습니다.
여기서 F 는 면의 수, p 는 한 면의 변의 수(정삼각형이면 3, 정사각형이면 4, 정오각형이면 5)입니다.
시험에 가끔 나오니 그냥 무지성으로 외워두는 것도 좋습니다.
다섯 개의 정다면체를 이 공식으로 계산해보면 아래와 같습니다.

정사면체 (F=4, p=3) :
정육면체 (F=6, p=4) :
정팔면체 (F=8, p=3) :
정십이면체 (F=12, p=5) :
정이십면체 (F=20, p=3) :
가 됩니다.
이제, 30초컷 가능합니다.

2. 직순열에서 시작해봅시다.
참고로, 입체도형을 3차원 공간에서 회전시켜 원래 모양과 완전히 포개지는 조작들의 집합을 회전 대칭군(rotational symmetry group) 이라 하고, 그 크기(갯수)를 |G| 라 합니다.
그래서, F 개의 서로 다른 색을 F 개의 면에 한 번씩 칠하는 경우의 수는 아래와 같이 계산 됩니다.
전체 순열 (직순열) F! 에서 "회전하면 같아지는 배치" 를 같은것 한 묶음으로 치기 때문에 단순히 나눠주는것입니다.
앞의 1 에서 알려드린 공식 (F-1)!/p 는 F!/|G| 에서 |G|=F×p 를 대입한 결과입니다. 그러면, |G| 를 어떻게 구하느냐가 핵심이 됩니다.
3. 회전 대칭군 직접 찾기 — 정사면체
먼저 |G| 를 직접 찾아서 세어보겠습니다.
일단, 가장 단순한 정사면체 에서 모든 회전 조작을 직접 찾아보면 아래와 같습니다.
(1) 면-꼭짓점 관통 축 (4개)
각 꼭짓점과 맞은편 면의 중심을 잇는 직선이 회전축이 됩니다.

이 축을 기준으로 120°, 240° 회전이 가능하므로,
(2) 모서리-모서리 관통 축 (3개)
마주보는 두 모서리의 중점을 잇는 직선이 회전축이 됩니다.

이 축을 기준으로 180° 회전만 가능하므로,
(3) 항등원 (아무것도 안 함)
0° 회전, 즉 가만히 두는 것도 하나의 조작입니다.

이 경우는
입니다.
따라서, 정사면체의 회전 대칭군의 크기는|
이고, 그러므로 정사면체를 색칠하는 방법의 수는 4!/12=2 가지가 됩니다.
참고로, 오일러 회전 정리(Euler's Rotation Theorem) 가 있습니다. 이 정리는
"공간상의 어떠한 복잡한 회전도 결국 단 하나의 고정된 직선 축 을 기준으로 한 번 돌린 것과 같다"
라는 것입니다. 이 정리 덕분에 "축만 찾으면 조작을 다 셀 수 있다" 는 것이 보장됩니다.
그런데,,, 정사면체는 단순해서 축을 다 찾았지만, 다면체가 복잡해지면 축을 빠짐없이 찾아내는 것이 매우 어렵습니다. 예를 들어, 정이십면체의 축을 다 찾아보라고 하면 아마 쉽지 않겠죠.
다행히, 축을 하나도 안 찾아도 |G| 를 구할 수 있는 엘레강트한 방법이 있습니다.
4. 궤도-안정자 정리 (Orbit-Stabilizer Theorem)
축을 일일이 찾는 어려움을 없애주는 도구는 궤도-안정자 정리 입니다.아래와 같은 식으로 바로 구할 수 있습니다. 대박이죠.
이걸 어떻게 설명할까 고민했는데, 예를 들어, 아래와 같은 상황을 생각해보겠습니다.
아빠가 다면체 피규어 수집가 입니다. 아빠는 평소에 유리 장식장에 소중한 다면체 피규어를 세워놓고 감상하십니다.
어느날 아들이 몰래 꺼내서 가지고 놀다가, 아빠가 돌아오기 전에 원래 자리에 원래와 똑같아 보이게 갖다 놓아야 합니다. (사방이 보이는 유리 장식장이니 모든 면이 다 보입니다.)
이때, 아들이 피규어를 놓는 방법을 두 단계로 나눌 수 있습니다.
① 목적지 선택 = 궤도(Orbit) :
피규어의 어떤 면을 바닥(받침대)에 놓을 수 있는지. 즉, "특정 종류의 면이 갈 수 있는 자리의 수" 입니다.
② 행동 선택 = 안정자(Stabilizer) :
바닥 면을 결정한 상태에서, 제자리에서 팽이처럼 돌려도 원래와 똑같아 보이는 조작의 수 입니다.
그러면 아래와 같은 식이 성립합니다.
|G| = 목적지 수 × 행동 수 = 아빠가 구별할 수 없는 놓는 방법의 총 수
이것이 궤도-안정자 정리의 대략적인 간추린 내용입니다.
그러면 연습삼아 정육각기둥 예시를 통해 궤도-안정자 정리를 써서 |G| 를 한 번 구해보겠습니다.
정육각기둥은 정육각형 면 2개 + 직사각형 면 6개 = 총 8개 면으로 이루어져 있습니다.

(1) 정육각형 면 기준 계산

목적지 : 정육각형을 바닥에 놓으려면, 윗면 아니면 아랫면 뿐입니다. → |Orb|=2
행동 : 정육각형이 바닥에 있는 채로 팽이처럼 돌리면, 0°, 60°, 120°, 180°, 240°, 300° 총 6가지 조작이 됩니다. → |Stab|=6
(2) 직사각형 면 기준 계산

목적지 : 직사각형을 바닥에 놓을 수 있는 면은 6개입니다. → |Orb|=6
행동 : 직사각형이 바닥에 있는 채로 원래와 똑같아 보이게 하는 조작은, 맞은편 직사각형 중심을 잇는 축으로 180° 뒤집기 하나뿐입니다(항등원 포함하여 2가지). → |Stab|=2
기준을 무엇으로 잡든 대칭군의 크기는 12로 동일합니다. 이것이 궤도-안정자 정리의 파워입니다. 이 과정을 궤도-안정자 정리 쓰지 않고 축을 일일히 찾는 방법도 가능하지만, 다면체가 복잡해지면 코피가 터집니다.
따라서, 정육각기둥의 8개 면을 8가지 서로 다른 색으로 칠하는 경우의 수는
가 됩니다.
5. 정다면체 공식의 증명
이제 1 에서 알려드린 공식 공식 (F-1)!/p 를 궤도-안정자 정리로 증명할 수 있습니다.
정다면체에서 면 하나를 x 로 잡으면,
목적지 :
정다면체는 모든 면이 합동이고 대칭적으로 완전히 동등하므로, x 가 갈 수 있는 자리(바닥에 닿을 수 있는 면)는 F 개 전부입니다. → |Orb|=F
행동 :
한 면이 바닥에 놓인 채로 팽이를 돌리면, 그 면이 정 p 각형이므로 0°, 360°/p, 2×360°/p, ⋯ 총 p 가지 조작이 가능합니다. → |Stab|=p
따라서,
이고, 색칠 경우의 수는
가 됩니다.
이제, 그냥 외우면 됩니다.
주의 : 참고로, 이 공식은 정다면체 전용 입니다. 모든 면이 합동이고 대칭적으로 동등하다는 전제가 있어야 |Orb|=F, |Stab|=p 가 성립합니다. 면의 모양이 섞여 있는 일반적인 다면체에는 이 공식을 그대로 쓸 수 없고, F!/|G| 로 돌아가서 |G| 를 직접 구해야 합니다.
6. 면이 아닌 요소로도 가능
궤도-안정자 정리는 면(Face)에만 국한되지 않습니다. 꼭짓점(Vertex)이나 모서리(Edge)를 x 로 잡아도 동일한 |G| 가 나옵니다. 4 의 정육각기둥으로 재검증해 보겠습니다.

(1) 한 꼭짓점 기준

목적지 : 기둥의 꼭짓점은 총 12개이고 모두 대칭적으로 동등합니다. → |Orb|=12
행동 : 특정 꼭짓점 하나를 공간상에 핀으로 고정하면, 입체를 전혀 회전시킬 수 없습니다. → |Stab|=1
(2) 세로 모서리(두 육각형을 잇는 변) 기준

목적지 : 세로 모서리는 총 6개이고 모두 동등합니다. → |Orb|=6
행동 : 특정 세로 모서리를 그 자리에 둔 채, 이 모서리의 중점을 지나는 축으로 180° 뒤집기가 가능합니다(항등원 포함). → |Stab|=2
(3) 가로 모서리(육각형을 구성하는 변) 기준

목적지 : 윗면 6개 + 아랫면 6개 = 총 12개이고 모두 동등합니다. → |Orb|=12
행동 : 특정 가로 모서리를 고정하면, 입체를 움직일 수 없습니다. → |Stab|=1
이처럼 입체의 어떤 '부품' 을 기준으로 잡아도 결과는 항상 같습니다.
다만, 중·고등학교 교과 에서는 면 기준 으로 생각하는 것이 가장 직관적이고 충분합니다.
"어떤 면을 바닥에 놓을 수 있는지(목적지)" + "그 상태에서 제자리 회전(행동)"
만 생각하면 되니까요.
7. 일반 다면체로의 확장
정다면체가 아닌 다면체에도 F!/|G| 는 그대로 적용됩니다.
예시로 아래 문제를 한 번 보겠습니다.

이 입체도형은 정삼각형 2개(위아래) + 등변사다리꼴 6개(옆면) = 총 8면 으로 이루어져 있습니다. 8가지 서로 다른 색으로 칠하는 경우의 수를 구해봅시다.
이 도형에는 (F-1)!/p 공식을 쓸 수 없습니다. 면의 모양이 섞여 있으니까요. F!/|G| 로 돌아가서 |G| 를 직접 구해야 합니다.
정삼각형 면 기준
목적지 : 정삼각형을 바닥에 놓을 수 있는 면은 위아래 2개입니다. → |Orb|=2
행동 : 정삼각형이 바닥에 있는 채로 팽이를 돌리면, 0°, 120°, 240° 총 3가지입니다. → |Stab|=3
연습삼아 사다리꼴 면 기준도 해보겠습니다.
목적지 : 사다리꼴을 바닥에 놓을 수 있는 면은 6개 전부입니다. → |Orb|=6
행동 : 사다리꼴이 바닥에 있는 채로 원래와 똑같아 보이게 하는 조작은 항등원뿐입니다. → |Stab|=1
양쪽 모두 |G|=6 으로 일치합니다. 따라서, 색칠 경우의 수는
가 됩니다.
이처럼, 면의 모양이 섞여 있는 다면체라도 아무 면이나 하나 잡고 "목적지 × 행동" 을 세면 됩니다.
8. 결론
입체도형 색칠 경우의 수는
이고, |G| 는 궤도-안정자 정리로 구합니다.
정다면체에서는 |G|=Fp 이므로 (F-1)!/p 라는 깔끔한 공식이 나오고, 일반적인 다면체에서는 아무 면이나 하나 잡고 직접 세면 됩니다.
참고로, 오늘 다룬 내용은 "서로 다른 색으로 칠하는 경우" 에 한정됩니다. 만약 같은 색을 여러 면에 칠할 수 있는 경우 까지 다루려면, 번사이드 보조정리(Burnside's Lemma)라는 도구가 필요한데, 그건 다음 기회에 다뤄보겠습니다.
제 수업에서는 공식이 궁금한 학생에게는 공식을, "왜 그렇게 되는지" 가 궁금한 학생에게는 구조를 원하는 만큼 상세히 알려주고 있습니다. 주제탐구를 쓰는 학생도 있어서요.
