벼랑끝 바이오 매드 컴퓨터 사이언티스트

딥러닝 모델을 만들고 훈련 epoch를 돌리는데 이상하게도 시스템 RAM을 계속해서 잡아먹더라 GPU 메모리도 아니고 시스템 메모리를 계속해서 잡아먹는게 이상했다. 처음 보는 문제이다보니 해결하기 위해서 한참을 헤메였는데 언제나 그렇지만 답은 간단했다. 보통 Loss의 history를 저장하기 위해 loss_history라는 리스트를 만들고 epoch를 돌며 나오는 훈련셋에서의 loss값을 저장하는 경우가 많은데 loss_history.append(loss.item())와 같은 형태로 많이 이용한다. 여기서 loss의 단순 value값만 저장하면 되는데 따라서 우리는 loss.item()이라는 기능을 이용해서 그냥 단순 loss의 숫자값만 따로 떼와서 history에 저장한다. 근데 여기서 .item()..

shadow는 우리말로 그림자, 즉 어떤 물체의 그림자 그 자체를 이야기할때 쓰는 표현이다. shade는 그늘, 응달처럼 어떤 큰 물체의 그림자로 인해 그림자가 드리워진 영역이나 장소를 표현하는 단어이다. 예를들어 그림자와 그늘 두 단어의 차이점을 생각해보자. 연필의 그림자를 보고 보통은 그림자라고 하지 그늘이라고 이야기하지 않는다. 즉 연필의 그림자는 shadow다. 거대한 나무의 그림자가 드리워있는 영역을 보고는 나무의 그림자라고 하기도 하지만 주로 그늘이라는 표현을 쓴다. 따라서 나무에 의해 그림자가 드리워져있는 영역을 우리는 그늘, 응달이라고 하며 이때는 shade라는 표현을 쓴다. "I'm sitting in the shade of the tree" or "I drew the shades to ..

[과학자의 단어장] 시리즈는 우매한 나를 위하여 공부한 영어 지식을 바탕으로 작성됩니다. 등장하는 문장은 제가 직접 작문하는 것이라 영어 고수분들의 눈에는 상당히 어색하게 보일수 있습니다. 전문적인 상황에서의 도움이 필요하다면 영어/회화 전문 블로거들의 글을 통해 더블체크하시길... Crack down on 1. ~를 엄히 단속하다. 그들은 음주운전자를 단속하기 위해서 불시로 검문을 실시한다. They conduct an inspection to crack down on drunk driver They conduct an casual inspection to crack down on drunk driver. 2. ~를 통렬하게 비판하다. 서방 국가들은 우크라이나에 전쟁을 선포한 블라디미르 푸틴 러시아 대..

기계학습이 다루는 데이터는 주로 '불확실성'을 가지고있는 실생활로부터 온 데이터들, 따라서 자연스럽게 기계학습 역시 확률과 통계를 잘 활용해야만 좋은 모델을 만들 수 있다. 1. 확률 기초 확률변수와 확률 분포 도,개,걸,윷,모가 나오는 윷놀이가 있다. 먼저 확률을 수식으로 표현하려면 위 다섯가지 경우의 수들 중 한가지를 나타내는 변수가 필요하다. 이렇게 어떤 상황이 발생하는지를 나타내는 변수를 확률변수(random variable)이라고 하며 주로 영어 소문자로 나타낸다. 그리고, 윷놀이에서는 이런 확률변수가 각각 [도, 개 ,걸, 윷, 모]로 5가지가 존재하며 이 확률 변수 전체의 모임을 '정의역'이라 부르며 보통 영어 대문자로 나타낸다.. 전체 정의역에 걸쳐 확률값을 모두 표기한 것을 확률 분포(p..

3. 퍼셉트론의 해석 퍼셉트론은 입력되는 d차원의 샘플벡터를 c차원의 부류 중 하나로 분류하는 분류기의 역할 퍼셉트론의 입력 및 출력 방식은 다음과 같다. $$output = \tau(w \bullet x) \ ,where\ \ \tau(a) =\begin{cases}1 & a \geq T\\-1 & a 0\ , \ where \ \forall x\ except \ for \ x=\vec{0} $$ 직접 임의의 간단한 2x2 matrix A와 2차원의 벡터를 넣어 계산해보면 쉽게 이해할 수 있을 것이다. 이 때 사용되는 벡터들은 영벡터가 아니어야한다. 추가로 존재하는 부호개념은 다음과 같다. $$positive \ semi-definite\ matrix (A)= x^TAx \geq 0\ , \ for \..

이게 무슨말인가? 나도 모르겠다 일단 문제를 확인해보자 어떤 부부의 첫째 아이가 여아였다, 이 때 둘째 아이도 여아일 확률은? 정말이지 나도 보면 볼수록 베이즈 통계가 수학계에서 받아들여졌다는 사실이 믿기지 않을정도로 터무니없는 문제를 다룬다. 당연히 그냥 50% 아닌가? 라고 생각 들 수밖에 없다. 그러나 그렇지 않으니까 문제로 나오는 것이 아닐까 일단 한번 이 문제를 베이즈 추론을 통해 다뤄보기로 하자. 한가지 이야기하고 넘어가자, 우리가 왜 당연히 50%라고 생각하는걸까? 그것은 우리가 보통의 표준 통계학인 네이만-피어슨 통계학 개념에 익숙해져 있기 때문이다. 그러나 이런 표준적인 통계학은 인류라는 하나의 종족에 대한 전체 통계적인 수치는 제시해줄 수 있지만, 문제에서 제시한 것 처럼 '어떤 부부'..

이번 포스팅에서는 문제를 다음과 같이 설정해보자 당신을 남성이라고 가정하자, 동료들 중 특정한 여성으로부터 발렌타인데이에 초콜렛을 전달 받았다. 그녀가 당신을 진지하게 생각하고 있을 확률은? 이게 도대체 무슨 뜬구름 잡는 문제인가? 이게 수학이라고? 이걸 지금 수학문제라고 이야기하는 것인가? 이게 확률? 이런 생각을 하고있다면 아주 정상이다. 실제로 베이즈 통계학은 위와 같은 이유로 괴짜취급을 당하기도 했다. 다시 차근차근 베이즈 추론 프로세스를 이용해서 추론해보자 1. 사전확률을 설정한다. 계속 이야기 하게되겠지만 베이즈 추정에서 사전확률은 경험/믿음/신뢰에 의거하거나 혹은 무작위로 설정한 확률분포를 사용하면 된다. 그리고 여기에서 사전확률은 그녀는 나에게 호감이 있을까 없을까이며 이렇게 아무런 정보도..

문제 한가지를 설정해보고 베이즈 추정을 통해 문제를 해결해보자. 특정 암에 걸릴 확률은 0.1% (0.001)이라고 하자, 이 암에 걸렸는지를 진단하는 키트가 있고, 이 암에 걸려있는 사람(D)이 진단 키트로 양성 진단(+)을 받을 확률( P(+|D) )은 95%(0.95)이고 건강한 사람(H)이 양성(+)으로 오진 받을 확률( P(+|H) )이 2%(0.02)이다. 당신이 이 검사에서 양성이라고 진단되었을 때, 실제로 암에 걸려있을 확률은? 앞에서 공부한대로 베이즈 추정의 프로세스를 따라 문제를 해결해보자. 베이즈 추정 프로세스를 모르거나 기억나지 않는다면 다음 포스팅을 참고하자 https://biomadscientist.tistory.com/41 1부) 베이즈 통계학의 기초 -1.정보를 얻으면 확률이..

1. 벡터와 행렬 : 기계학습에서는 입력된 샘플을 특징 벡터로 표현한다. 벡터는 다음과 같이 로마자 소문자로 표기한다. $$x_1=\begin{bmatrix}5.1\\3.5\\1.4\\0.2\end{bmatrix} x_2=\begin{bmatrix}4.9\\3.0\\1.4\\0.2\end{bmatrix} ... where \ x_1, x_2 \in R^4$$ 이 벡터를 4차원의 벡터라고 이야기하며 다시말해 4차원 실수 공간상의 한 점이 된다. 행렬은 이런 벡터를 여러개 담을 수 있고, 굵은 글씨의 대문자로 표현한다. $$X = \begin{bmatrix}5.1 & 3.5 & 1.4 & 0.2\\ 4.9 & 3.0 & 1.4 & 0.2\\ \vdots & \vdots & \vdots & \vdots \\ ..

1-1. 베이즈 추정을 이용하면 '쇼핑족'과 '아이쇼핑'족을 판별할 수 있다. 비즈니스에서 실제로 사용될법한 예를 들어 설명해보자, 상품 판매원이 어떤 손님이 들어왔을 때 가장 신경써야 할 부분은 이 손님이 '실제로 지금 매장에서 구매 의사가 있는 손님인가'여부이다. 이렇게 '손님이 실제로 구매 의사가 있는가'를 판단하는 기준은 상당히 모호하지만, 만약 이것을 수치화 할 수 있다면 판매원은 그 기준을 통해 추후 행동을 결정하는데 큰 도움을 받을 수 있을 것이다. 1-2. [1단계] 경험으로부터 '사전확률'을 설정한다. 눈 앞에 손님이 있는 상황을 가정한다. 이 때 베이즈 추정을 이용해 해당 손님이 쇼핑족인지, 아이쇼핑족인지 판단하기 위해 가장먼저 해야하는 일은 '경험으로부터 얻어진, 손님들 중 쇼핑족과 ..