벼랑끝 바이오 매드 컴퓨터 사이언티스트

torch.set_printoptions()함수를 이용한다. 1. precision : int , 소수점 몇자리까지 나타낼 것인지? 2. threshold : int, : 텐서 엘레멘트가 threshold개 이상일 경우에만 ... 등으로 축약해서 표시하기 대충 default는 1000인데 10000정도로 올리면 앵간하면 다 확인할 수 있다.

Tensor형태의 데이터는 .is_cuda를 붙여보면 cuda위에 있을경우 True, cpu에 있을 경우 False를 반환한다. 따라서 확인하기 쉽지만 class instance인 model은 단순하게 model.is_cuda를 할 경우 attribute error가 난다. 모델이 cuda에 있는지 확인하기 위해서는 아래 코드를 입력하면 된다. next(model.parameters()).is_cuda (여기서 model은 본인의 모델을 저장한 변수 이름으로 바꿔야한다.)

위와 같이 padding mask나 triangular mask를 만들 때, device를 항상 잘 설정해줘야 한다. 그렇지 않으면 모델은 cuda에, mask는 cpu에 존재해서 모델이 돌아가지 않을 수 있다. tgt_mask뿐 아니라 모든 mask의 device를 모델과 같은 device에 설정했는지 확인해보자

nn.Embedding에 대한 이해가 제대로 되어있지 않아 여러가지 문제가 있었다. 다음과 같은 문제들이 맞는지 확인해보자 일단 nn.Embedding(n, m)은 (n개의 정수값을 인덱스로 하는, m차원의 테이블)을 만드는 역할을 한다고 생각하면 된다. 예를들어 temp_embedding = nn.Embedding(2, 4)라고 하면 0 0.1123 -0.5321 1.1232 0.8737 1 -2.0012 1.2231 0.6653 0.5531 처럼 0~1 (2개)의 인덱스를 가지는 4차원의 테이블이 만들어진다. 이것을 보통 lookup table이라 표현한다. 다음으로 내가 가진 데이터를 저 인덱스를 통해서 vector의 형태로 불러오는 것이다. 예를들어 내가 가지고 있는 텐서 temp = [0, 0 ..

string 형태가 아닌 다른 타입의 변수를 f.write()함수 내부로 전달하면 아래와 같이 str 형태의 데이터를 전달하라며 오류가 난다. a = {"A":143} with open (..., "W") as f: f.write(a) # TypeError: write() argument must be str, not dict 그럴 때 write 함수 내에서 변수를 repr()로 감싸서 전달하면 정상적으로 저장이 된다. a = {"A":123} with open (... ,"W") as f: f.write(repr(a)) # 정상적으로 저장된다. 다만 이렇게 저장된 변수는 string 형태로 저장되기 때문에 다시 원하는 타입 (딕셔너리 등)의 형태로 이용하려면 eval()함수를 사용해야한다. with o..

나는 음악 감상을 상당히 좋아하고, 이어폰이나 헤드폰이 새로 나오면 집 가까 아니 각설하고 요번에 소니에서 XM5 헤드폰을 내면서 헤드폰 시장이 상당히 핫한데 나도 이참에 헤드폰 하나 살까 고민을 많이 하다가 나의 음악 소비 패턴에 더 적합하다고 생각되어 그냥 이어폰인 WF-1000MX4를 샀다. 길게 쓸 시간따위 대학원생한테 사치다, 진짜 빠르게 평가하겠다. 1. 헤드폰에 도전하는 이어폰이라는 슬로건에 관하여 인정한다, 솔직히 안믿었다 이어폰으로 어떻게 헤드폰 사운드에 감히 도전하겠다는 소리를 하는지? 6mm 드라이버로 40mm 드라이버의 헤드폰에 도전하겠다고? 이제 믿을 수 있겠다, 소니 대단하다 이정도 사운드면 이제 헤드폰의 크기에서 오는 파워풀함까진 따라잡지 못하지만, 해상도, 베이스 빵빵한 음악..

ImportError는 환경변수에 의해 나타나는 에러라고 함, 이런 에러들은 주로 파이썬 라이브러리들이 업데이트되면서 해당 라이브러리 버전에 미처 따라가지 못하는 다른 패키지 버전 때문에 주로 발생한다고 한다. 다시한번 오류 메세지를 잘 살펴보자 ImportError: /usr/lib/x86_64-linux-gnu/libstdc++.so.6: version `GLIBCXX_3.4.29' not found (required by /home/../anaconda3/envs/DTA/lib/python3.9/site-packages/pandas/_libs/window/aggregations.cpython-39-x86_64-linux-gnu.so) 딱봐도 pandas 패키지랑 뭔가 충돌이 있어보인다. 그리고 찾아..

string = {'A' : [1,2,3], 'B' : [3,2,1]} 같은 형태의 string을 가지고 있을 때 단순히 dict(string)하면 딕셔너리 형태로 바뀔 줄 알았는데 안되더라 이럴때 그냥 eval(string)하면 dictionary형태로 반환해준다. real 개꿀

!! 해당 포스팅에서는 코시의 평균값 정리에 대한 증명만 다룹니다. 롤의 정리와 평균값의 정리는 그림을 통해 자명함이 직관적으로 이해가 가능하므로 증명을 다룰 이유가 없고, 로피탈의 정리의 경우 증명보다는 응용이 더 중요하다고 생각되어 증명내용은 넣지 않았습니다. 로피탈의 정리를 이해하기 위해서는 몇 가지 다른 정리들에 대한 지식이 있어야 한다. 1. 롤의 정리 : 함수 f(x)가 닫힌구간 [a,b]에서 연속이며 열린구간 (a,b)에서 미분 가능하다고 하자, 이 때 f(a) = f(b)이라면 f'(c) = 0을 만족하는 c 값이 (a,b) 사이에 적어도 한 개 이상 존재한다. 말로 들으니 무슨말인지 모르겠다, 그러나 그림으로 그리는 순간? 정리에 대해 명확히 설명하지 않더라도 직관적으로 f'(c) = 0..

부끄럽기 짝이없지만 나는 수학을 놓고산지 10년이란 세월이 지나는 바람에 인공지능학과의 석사생이면서도 아주 기초적인 미분공식조차 기억하지 못하는 경우가 상당히 많다. 지수가 어떻고 로그가 어떻고 자연로그가 미분되고 머시기머시기 하다보면 '그랬나?' 라는 생각을 수도없이 하게된다. 매번 까먹어서 기록의 필요성을 느끼므로 기억속에 미처 담지 못한 미분공식이 있을 때마다 적어놓으려한다. 참고 미분해주는 사이트 https://www.derivative-calculator.net/ Derivative Calculator • With Steps! Above, enter the function to derive. Differentiation variable and more can be changed in "Optio..