Cauchy Sequences/completeness/complete metric space 코시 시퀀스와 완비성, 완비거리공간

https://www.youtube.com/watch?v=VNoHcFoawTg

공부를 위한 포스팅이니 틀린내용이 있을 수 있다. 수학 전공이 아니기 때문에 너무 어려운 수학적 개념은 다루지 않는다.

 

---

[Motivation] 극한의 개념을 알지 못하는 상태라면, 어떤 임의의 순열(sequence) S가 점점 하나의 값으로 가까워 진다는 사실을 어떻게 증명할 수 있을까?

1. 만약 순열 a_n이 monotone(단조)이고 임의의 값에 의해 bounded 되어있다면, 그 순열은 수렴한다. 그러나 모든 순열이 단조순열이라는 법은 없다.

Figure 3의 그래프는 monotone이라고 할 수 없다. https://en.wikipedia.org/wiki/Monotonic_function

 

2. 만약 순열 a_n이 Cauchy 순열이라는 것을 보이면, 해당 순열은 수렴한다는 사실이 증명되어있다. 반대로, 해당 순열이 어딘가로 수렴한다면, 그 순열은 Cauchy 순열이다. (if and only if)

그렇다면 우리가 공부해야 할 것은 명확해졌다. Cauchy 순열이란 무엇인가?

 

---

Cauchy Sequence

: 코시-순열을 가장 직관적으로 설명할 수 있는 문장은 '순열 내부 원소가 서로 점점 가까워져서 무한히 가까워지는 형태의 순열'이다. 코시-순열의 종류는 다양하지만 쉬운 이해를 위해 여기서는 a_n = 1/n이라는 순열을 생각해보자.

그림1. a_n=1/n 순열

우리는 직관적으로 이 순열은 n이 커지면 커질수록 0에 수렴(converge)할 것이라고 알 수 있다. 그러나 수학적인 증명 없이는 명확하게 그렇다 이야기할 수도 없는게 현실이다. 어떤 순열이 코시-순열이려면 다음 조건을 만족해야한다.

그림2. 코시-순열의 정의 (수식) https://www.youtube.com/watch?v=VNoHcFoawTg

[Definition of Cauchy-sequence]

• 시퀀스 a_n이 존재한다.
• 임의의 모든 양수 ε 에 대하여, 이하의 조건을 만족시키는 임의의 threshold N이 존재한다. (자연수로 생각)
• N보다 큰 모든 m과 n에 대하여서 |a_m-a_n| <  ε을 만족하는 N이 존재한다.

그리고 증명은 딱히 하지 않겠지만, threshold N은 2/ε 값보다 큰 임의의 N을 사용하면 된다. 만약 증명과정이 궁금하다면 출처로 남긴 영상의 5:10부터 확인해보면 된다.

 

예시를 들어 하나만 살펴보자.

a_n = 1/n인 순열이 있다. 이때 ε을 1/10이라고 하자. 위에서 언급한 성질에 의해 N은 2/ε (=20)보다 큰 21로 설정하자. 21보다 큰 아무런 임의의 두 수 m과 n을 선택하고, |a_m-a_n|이 실제로 ε보다 작은지를 확인해보면 된다.

 

---

Completeness (Complete metric space) (완비 거리 공간)

코시-순열, 나처럼 응용분야에서의 딥러닝을 하는 사람은 철저하게 생각할 이유는 없어보인다. 다만 completeness라는(:완비성) 성질까지는 알아두도록 하자.  

위에서 어떤 순열이 코시순열이면 해당 순열은 어떤 특정값으로 수렴한다고 했고, 이것은 if and only if의 관계를 만족한다고 이야기했다. 그러나 아주 명백히 따져보자면, 모든 코시 순열이 반드시 어딘가로 수렴한다고 할 수는 없다. 위에서 말한 if and only if를 만족하려면 그 공간이 완비 거리 공간, Complete metric space여야만 한다. 반대로 말하면 complete metric space가 아닌 공간에서는 모든 코시 순열이 반드시 어떤 한 점으로 수렴한다고 이야기 할 수 없다.

 

말이 어려운데, 본인이 수학 전공이 아니라면 이렇게까지만 알아두자.

• complete metric space의 수학적 정의는 해당 공간의 모든 코시순열이 해당 공간상의 임의의 point로 반드시 수렴할 수 있는 공간을 의미한다.
• complete metric space의 직관적인 정의는 공간상에 숫자로 정의할 수 없는 비어있는 point가 존재하지 않는 완전한 숫자 공간을 의미한다.

직관적인 정의까지 확인해보니 이제는 조금 이해가 된다, 예를 들어보자 실수 집합은 유리수와 무리수가 모여 이뤄진 공간이고 completeness를 만족하며 complete metric space이다. 실수 공간상에서는 아무리 비어있는 수를 찾으려 해도 찾을 수 없기 때문이다. 반면 유리수 집합에서는 π나 √2 와 같은 무리수를 나타낼 수 있는 수가 존재하지 않는다. 무리수에서는 0.311381291 같은 유리수를 나타낼 수 있는 수가 존재하지 않는다. 다시말해 유리수집합, 무리수집합 각각은 completeness를 만족하지 못하고 non-complete metric space이다.

 

이런 완비성은 왜 중요한가? 그것은 ChatGPT가 알려주었으니 한번 확인해보자

https://chat.openai.com/c/d4ab7744-6b64-48d2-9fd6-4449db3090aa