알티수학 쌤 수학 노트 센텀 알티수학 학원 · 부산 센텀 · 해운대

알티수학 쌤 비법공개 #8 - 행렬 곱셈 교환법칙 반례를 시스템적으로 만드는 방법, 만능 반례 한 쌍 만들어 드립니다. (feat. 교환자, 곱셈공식, 이항정리, 공통수학1 행렬)

글·그림 알티수학 쌤 · · 알티수학 인벤토리

행렬 시험에서 참/거짓 문제가 나오면 반례를 하나 던져야 하는데, 그 반례를 감으로 찾기란 쉽지 않습니다. 오늘은 교환자(commutator)를 이용해서 반례를 '구조적으로' 만들어내는 방법을 알려드리겠습니다. 그리고, 웬만하면 다 통하는 만능 반례 한 쌍도 만들어 드립니다.

이번 교육과정에서 행렬이 공통수학1에 돌아왔습니다. 2×2 행렬의 곱셈까지 다루는데, 범위가 이정도로 제한 된다면, 가장 중요한 핵심은 교환법칙이 일반적으로 성립하지 않는다는 것 딱 하나 입니다.

행렬 곱셈에서 시험에서 자주 나오는 유형이, "○○ 가 성립하면 AB=BA 인가?" 와 같은 참/거짓 판단 문제입니다. 거짓이면 반례를 제시해야 하는데, 대부분의 학생들은 어디선가 외워둔 행렬을 넣어보면서 찾습니다. 운이 좋으면 맞고, 아니면 시간만 날리죠.

그렇지만,,, 그렇게 하는 것이 맞습니다. 그렇게 하도록 교과에서 다루는 범위가 제한되어 있으니까요.

이 글에서는 조금 더 알고 싶은 학생들을 위해, 반례를 만들어 내는 한 가지 방법을 알려드리겠습니다.크게 아래와 같은 절차로 진행하면 됩니다.

① 등식을 교환법칙 없이 전개한다.

② 교환자 C=AB-BA 를 이용해서 필요조건(오차항)을 드러낸다.

③ 필요조건이 C=O 보다 약하면, 그 틈을 이용해서 반례를 역설계한다.

이 순서대로 진행하면, 행렬 곱의 교환법칙 관련 참/거짓 문제의 반례를 어느정도 시스템적으로 처리할 수 있습니다.

1. 교환자(commutator)

두 행렬 A, B 에 대해 AB - BA 로 계산 되는 행렬을 C 라 두고, 기호로 [A,B] 로 표기해 봅시다. 즉,

C=[A,B]=AB−BAC=[A,B]=AB-BA

이고, 이 행렬 C 를 교환자라고 합니다.

C=O 이면 AB=BA 이라 교환법칙이 성립하고, C≠O 이면 안되는거죠.(비가환). 즉, C 는 "AB 와 BA 가 얼마나 다른지"를 측정하는 행렬이라 볼 수 있습니다.

행렬 참/거짓 문제에서 반례를 찾는다는 것은, C≠O 인데 주어진 등식이 여전히 성립하는 상황을 만들라는 뜻입니다. 그러려면 C≠O 이 허용되는 조건을 먼저 알아야 합니다.

2. 예시(1) : 행렬의 이항정리

행렬에서도 다항식의 곱셈공식과 동일하게

(A+B)n=∑k=0n(nk)An−kBk(A+B)^n=\sum _{k=0}^n\binom{n}{k}A^{n-k}B^k

가 성립하려면 AB=BA 가 필요한가? 를 생각해 보겠습니다.

먼저, AB=BA 이면 위 식이 성립합니다. 이것은 수학적 귀납법으로 처리할 수 있는데, 귀납 단계에서

(kj)Ak−jBj⋅A=(kj)Ak−j+1Bj\binom{k}{j}A^{k-j}B^j\cdot A=\binom{k}{j}A^{k-j+1}B^j

이 성립하려면 BA=AB 가 필요하고, 그리고 그것만 있으면

(kj)+(kj−1)=(k+1j)\binom{k}{j}+\binom{k}{j-1}=\binom{k+1}{j}

에 의해 귀납이 완성됩니다.

즉, AB=BA 이면, 행렬도 이항정리가 잘 성립합니다. (이쪽 방향 명제는 비교적 쉽습니다.)

그러면 이제, 역명제를 생각해 볼까요?

역명제, 즉 "이항정리(곱셈공식) 성립 → AB=BA 인가?" 가 본론입니다.

3. n=2 일 때는 역도 참

두 행렬의 합의 완전제곱

(A+B)2(A+B)^2

을 교환법칙 없이 전개하면

(A+B)2=A2+AB+BA+B2(A+B)^2=A^2+AB+BA+B^2

입니다.

행렬에서도 이항정리가 성립한다면,

A2+2AB+B2A^2+2AB+B^2

이어야 하므로, 비교하면

AB+BA=2AB  ⟹  BA=ABAB+BA=2AB\ \ \Longrightarrow \ \ \textcolor{#ff0010}{BA=AB}

이 됩니다.

오차를 만드는 항이 BA 딱 하나뿐이라서, 곧바로 교환법칙 성립이 강제됩니다.

따라서, n=2 일 때 이항정리(곱셈공식) 성립 ⇔ AB=BA 입니다.

4. n=3 일 때는 역은 거짓

이제 완전 세제곱을 해보겠습니다.

(A+B)3(A+B)^3

을 교환법칙 없이 행렬의 곱으로 전개하면 8개의 항이 나옵니다.

(A+B)3=(A+B)(A2+AB+BA+B2)(A+B)^3=(A+B)(A^2+AB+BA+B^2)
=A3+A2B+ABA+AB2+BA2+BAB+B2A+B3=A^3+A^2B+ABA+AB^2+BA^2+BAB+B^2A+B^3

이항정리(곱셈공식)의 결과인

A3+3A2B+3AB2+B3A^3+3A^2B+3AB^2+B^3

과 비교해보면,

B 가 1개인 항 :  A2B+ABA+BA2=3A2BB\ 가\ 1개인\ 항\ :\ \ A^2B+ABA+BA^2=3A^2B
B 가 2개인 항 :  AB2+BAB+B2A=3AB2B\ 가\ 2개인\ 항\ :\ \ AB^2+BAB+B^2A=3AB^2

이어야 하므로, 정리하면,

ABA+BA2−2A2B=O⋯(I)ABA+BA^2-2A^2B=O\quad \cdots (I)
BAB+B2A−2AB2=O⋯(II)BAB+B^2A-2AB^2=O\quad \cdots (II)

이어야 합니다.

이제, 교환자 C=AB-BA 를 써서 (I) 을 다시 써 봅시다.

BA=AB-C 이므로, (I) 의 앞의 두 항은 아래와 같습니다.

ABA=A(AB−C)=A2B−ACABA=A(AB-C)=A^2B-AC
BA2=(AB−C)A=ABA−CA=A2B−AC−CABA^2=(AB-C)A=ABA-CA=A^2B-AC-CA

이것을 (I) 에 대입해서 정리해보면,

ABA+BA2−2A2BABA+BA^2-2A^2B
=(A2B−AC)+(A2B−AC−CA)−2A2B=(A^2B-AC)+(A^2B-AC-CA)-2A^2B
=−2AC−CA=-2AC-CA

가 됩니다. 즉, (I) 은

2AC+CA=O⋯(가)\textcolor{#ff0010}{2AC+CA=O}\quad \cdots (가)

로 쓸 수 있습니다.

마찬가지 방법으로, (II) 도 교환자 C 로 표현해 봅시다. AB=BA+C 이므로,

BAB=B(BA+C)=B2A+BCBAB=B(BA+C)=B^2A+BC
AB2=(BA+C)B=BAB+CB=B2A+BC+CBAB^2=(BA+C)B=BAB+CB=B^2A+BC+CB

이므로, 대입해서 정리하면,

BAB+B2A−2AB2BAB+B^2A-2AB^2
=(B2A+BC)+B2A−2(B2A+BC+CB)=(B^2A+BC)+B^2A-2(B^2A+BC+CB)
=−BC−2CB=-BC-2CB

가 됩니다. 즉 (II) 는

2CB+BC=O⋯(나)\textcolor{#ff0010}{2CB+BC=O}\quad \cdots (나)

로 쓸 수 있습니다.

5. 결정적 차이

n=2 에서는 오차항이 C 그 자체여서 C=O 이 강제되었습니다.

그렇지만,

n=3 에서는 오차항이 "행렬 × 교환자" 형태입니다.

즉, C≠O 이어도 A 와 B 가 C 를 적절히 상쇄시켜 주면 곱셈공식이 성립할 수 있는거죠.

"교환자가 0이어야 한다" 가 아니라, "교환자가 0 이 아니더라도 역할을 못하게 할 수 있으면 된다" 라는 더 약한 조건이 되는 겁니다.

6. 반례 역설계

그러면 이제 추론으로 반례를 만들어 볼까요?

2AC+CA=O⋯(가)\textcolor{#ff0010}{2AC+CA=O}\quad \cdots (가)
2CB+BC=O⋯(나)\textcolor{#ff0010}{2CB+BC=O}\quad \cdots (나)

즉, (가), (나) 를 동시에 만족시키면서 C≠O 인 A, B 를 역으로 설계하면 됩니다.

(이 부분은 좀 기술적이므로 궁금하신분만 보세요.)

B2=OB^2=O

인 멱영행렬(nilpotent matrix)을 사용하겠습니다. 2×2 에서는

B=(0100)B=\begin{pmatrix}0&1\\0&0\end{pmatrix}

를 쉽게 떠올릴 수 있습니다.

B²=O 일 때 (나) 가 어떻게 단순화되는지 보겠습니다. (C=AB-BA 를 대입해서 정리합니다.)

2CB+BC=O⋯(나)\textcolor{#ff0010}{2CB+BC=O}\quad \cdots (나)
CB=(AB−BA)B=AB2−BAB=O−BAB=−BABCB=(AB-BA)B=AB^2-BAB=O-BAB=-BAB
(∵ AB2=A⋅O=O)\quad (∵\ AB^2=A\cdot O=O)
BC=B(AB−BA)=BAB−B2A=BAB−O=BABBC=B(AB-BA)=BAB-B^2A=BAB-O=BAB
(∵ B2A=O⋅A=O)\quad (∵\ B^2A=O\cdot A=O)

이므로, (나) 에 대입하면,

2CB+BC=2(−BAB)+BAB=−BAB2CB+BC=2(-BAB)+BAB=-BAB

이므로, 즉, (나) 는

BAB=O⋯(A)BAB=O\quad \cdots (A)

로 단순화됩니다.

여기서 만약 A 를 대각행렬로 잡으면 (A) 조건식도 자동으로 해결됩니다. 직접 계산해보면,

A=(a00d)A=\begin{pmatrix}a&0\\0&d\end{pmatrix}

일 때,

BA=(0d00),BAB=(0d00)(0100)=OBA=\begin{pmatrix}0&d\\0&0\end{pmatrix},\quad BAB=\begin{pmatrix}0&d\\0&0\end{pmatrix}\begin{pmatrix}0&1\\0&0\end{pmatrix}=O

즉,

BAB=OBAB=O\quad \textcolor{#ff0010}{}

가 됩니다. 대박입니다.

이제 (가) 하나만 더 풀면 됩니다.

2AC+CA=O⋯(가)\textcolor{#ff0010}{2AC+CA=O}\quad \cdots (가)
C=AB−BA=(0a−d00) 이므로C=AB-BA=\begin{pmatrix}0&a-d\\0&0\end{pmatrix}\ \text{이므로}
AC=(0a(a−d)00),CA=(0d(a−d)00)AC=\begin{pmatrix}0&a(a-d)\\0&0\end{pmatrix},\quad CA=\begin{pmatrix}0&d(a-d)\\0&0\end{pmatrix}
2AC+CA=(0(a−d)(2a+d)00)=O2AC+CA=\begin{pmatrix}0&(a-d)(2a+d)\\0&0\end{pmatrix}=O

C≠O (즉, a≠d) 를 유지하면서 이 식을 만족시키려면

d=−2a\textcolor{#ff0010}{d=-2a}

이면 되고,

예를들어 a=1 로 놓으면 반례가 완성됩니다.

A=(100−2),B=(0100)\textcolor{#ff0010}{A=\begin{pmatrix}1&0\\0&-2\end{pmatrix},\quad B=\begin{pmatrix}0&1\\0&0\end{pmatrix}}

이와 같은 반례를 원하는 만큼 만들어 낼 수 있습니다.

7. 검증해 봅시다

(1) AB≠BA 확인

AB=(0100),BA=(0−200)AB=\begin{pmatrix}0&1\\0&0\end{pmatrix},\quad BA=\begin{pmatrix}0&-2\\0&0\end{pmatrix}
이므로AB≠BA\text{이므로}\quad AB\ne BA\quad \textcolor{#ff0010}{}

(2) (A+B)³ 직접 계산

A+B=(110−2)A+B=\begin{pmatrix}1&1\\0&-2\end{pmatrix}
(A+B)2=(1−104)(A+B)^2=\begin{pmatrix}1&-1\\0&4\end{pmatrix}
(A+B)3=(130−8)(A+B)^3=\begin{pmatrix}1&3\\0&-8\end{pmatrix}

곱셈공식 우변 (B²=O 이므로) :

A3+3A2B=(100−8)+3(0100)A^3+3A^2B=\begin{pmatrix}1&0\\0&-8\end{pmatrix}+3\begin{pmatrix}0&1\\0&0\end{pmatrix}
  =(130−8)일치!\qquad \qquad \ \ =\begin{pmatrix}1&3\\0&-8\end{pmatrix}\qquad \text{일치!}\quad \textcolor{#ff0010}{}

잘 되네요!

참고로, 같은 A, B 로 n=4 를 계산하면 곱셈공식과 일치하지 않습니다. 이 반례는 n=3 전용입니다. n=4 이상의 반례도 위에서 역설계 한 동일한 방법으로 만들 수 있지만 더 복잡해지므로 관심있는 학생은 도전해보세요. 일반적으로 n=3 이상일때는 이렇게 반례를 만들어 낼 수 있습니다.

8. 예시(2) : (AB)²=A²B² 이면 AB=BA 인가?

답은 NO! 입니다.

앞의 예시(1) 에서와 같은 방식의 역설계를 하면 이 문제도 바로 처리됩니다.

(AB)2=ABAB(AB)^2=ABAB

인데, 가운데에 BA 가 끼어 있으므로 교환자 C 를 써서 BA=AB-C 를 넣으면

ABAB=A(AB−C)BABAB=A(AB-C)B
  =A2B2−ACB\qquad \ \ =A^2B^2-ACB

이므로, 따라서,

(AB)2=A2B2(AB)^2=A^2B^2

가 성립할 조건은

ACB=O\textcolor{#ff0010}{ACB=O}

이것 한 줄이면 끝입니다.

이것은 C=O 보다 훨씬 약한 조건이죠. C≠O 이어도 A 가 C 를 왼쪽에서, B 가 오른쪽에서 역할을 해서 영행렬로 만들어주면 됩니다.

그리고, 앞에서 만든 똑같은 반례

A=(100−2),B=(0100)A=\begin{pmatrix}1&0\\0&-2\end{pmatrix},\quad B=\begin{pmatrix}0&1\\0&0\end{pmatrix}

를 넣어보면,

C=(0300),CB=(0000)=OC=\begin{pmatrix}0&3\\0&0\end{pmatrix},\quad CB=\begin{pmatrix}0&0\\0&0\end{pmatrix}=O
이므로ACB=O\text{이므로}\quad ACB=O\quad \textcolor{#ff0010}{}

가 됩니다.

즉, AB≠BA 인데도 (AB)²=A²B² 는 성립하는 사례가 되죠.

9. 결론

행렬 교환법칙 관련 참/거짓 문제의 반례를 만드는 통일적 방법

① 등식을 교환법칙 없이 전개한다.

② 교환자 C=AB-BA 로 오차항을 정리해서 필요조건을 드러낸다.

③ 필요조건이 C=O 보다 약하면 → 거짓 (반례 존재). 그 틈으로 반례를 역설계한다.

④ C=O 이 강제되면 → 참 (역명제 성립). n=2 의 이항정리가 이 경우에 해당.

참고로, 고등학교 내신에서는 사실상 n=3 정도가 최대 차수이므로, 이 글에서 다룬 수준까지만 준비해 두면 대부분의 행렬 곱의 교환법칙 문제를 커버할 수 있습니다.

그리고, 눈치채셨겠지만, 위에서 만든 행렬 한 쌍,

A=(100−2),B=(0100)A=\begin{pmatrix}1&0\\0&-2\end{pmatrix},\quad B=\begin{pmatrix}0&1\\0&0\end{pmatrix}

은 곱셈 과정에서 AB 와 BA 의 순서 차이가 오차항으로 나타나는 유형에서는 거의 만능으로 통하는 반례이니 외워두면 유용합니다.

조금 더 설명드리자면 A 는 대각행렬이고, B 는 nilpotent of index 2 입니다. 손 계산 잘 되기로는 최상급 반례 셋트랍니다. (알티쌤은 여러분의 손계산까지 최적화시켜 드립니다.)

혹시 심심하시면 여러분만의 만능 반례 한 쌍을 만들어 보시는 것도 재미있을겁니다.

알티수학 쌤 비법공개 #8 - 행렬 곱셈 교환법칙 반례를 시스템적으로 만드는 방법, 만능 반례 한 쌍 만들어 드립니다. (feat. 교환자, 곱셈공식, 이항정리, 공통수학1 행렬) — 그림 1

#행렬 #교환법칙 #곱셈공식 #이항정리 #교환자 #반례 #멱영행렬 #공통수학1 #고1수학

같은 분류의 글 — 알티수학 인벤토리