반응형

전체 글 803

DINO Contrastive Learning in Medical Imaging

DINO Algorithm DINO Algorithm을 간단하게 얘기하면, 이미지에서 큰 부분 (Global view)와 작은부분 (Local view)으로 이미지를 떼어내어 준비한다. 그리고 Global view는 teacher에게 보여주고, Global + Local view를 student에게 보여줌으로써, 작은부분만 보고도 넓은 부분의 feature와 동일한 정보를 추출하도록 하는 것이다. 이렇게 계속 학습하다 보면, 이미지의 일부분만 보고도 전체이미지의 특징을 잡게 되므로 이미지의 주요한 부분에 집중하게 되고, 좋은 feature를 추출하게 된다. 바로 Label 없이 학습하는 self-supervised learning이다. Stanford의 Artificial Intelligence in M..

목공예 취미 수업 등록, 톱질과 짜맞춤의 시작

미국에 이민 후, 하우스에 살면서 집안 가구들, 싱크대, 테이블 등등 직접 만들고 인테리어도 하는 것이 뭔가.. 인생의 버킷리스트 같은 것이었다. 출국 전까지 시간이 좀 있어서 이번에 목공예를 한 번 배워보려고 등록했다. 학원은 서대문구에 있는 '나무를 품다' 에 등록했다. 20~24회 정도 레슨이면 웬만한 협탁 정도는 만들어 볼 수 있는 듯 했다. 비용도 크게 부담되지 않는 선이었다. (https://blog.naver.com/mklove1111) 등록 한 당일날, 바로 2번의 수업을 듣기로 했고 (오전반, 오후반) 바로 톱질부터 시작했다. 나무 판, 톱, 자 등등 다양한 도구들의 진짜 이름을 분명히 배웠는데, 집에 와서 글을 쓰려니 기억이 나지 않는 마법! 아무튼, 판의 높이가 18mm였기에, 18m..

Stigmatized./Essay 2023.08.15

Self-Supervised Vision Transformers with DINO 리뷰

- Self-supervised learning (자기 지도 학습) Label이 없는 데이터를 활용하여 모델을 학습시키는 방법 - Contrastive learning (대조 학습) Self-supervised learning 중의 하나로, 양의 쌍 (유사한 샘플)과 음의 쌍 (비슷하지 않은 샘플) 을 사용해서 데이터 샘플 간의 유사성을 학습하는 방식 Siamese network 같은 기본적인 contrastive learing은 매우 이해하기 쉬운데, 예를 들면 - Input으로 주어진 2개의 이미지 (A, B)가 동일한 Label을 가졌느냐, 서로 다른 이미지냐 - 혹은 A를 Augmentation (회전, 대조, flip, Crop 등을 활용한) A' 를 생성하여 (A, A'): 양의 쌍 (A, B..

윈도우11 파일 탐색기 랙걸림 느림 현상 해결 (OneDrive)

윈도우 11에서 파일 탐색기 폴더가 너무 느리게 뜨고, 오래 걸립니다. 특히 웹브라우저에서 파일을 업로드 한다거나 할 때, 렉이 너무 심해서 짜증 폭발입니다. 윈도우 11의 폴더를 킬 경우, 아래와 같이 화면이 렉 걸린 경험이 많으실 겁니다. (위에 초록색 로딩창 지나가는거 보면 화딱지가 납니다) 윈도우 11의 파일 탐색기 (file explorer) 는 느린 것이 아주 악명높은데, 대부분의 solution들은 다음을 제시합니다. 윈도우를 업데이트 필요없는 파일을 정리 필요없는 프로그램 삭제 작업관리자 - 필요없는 프로세스를 종료하라 윈도우 백그라운드 서비스들 정리 하지만, 제 Labtop의 경우 OneDrive가 원인이었습니다. (사실 노트북에 깔려있지도 않은 ... !!) 바로 최근항목의 OneDri..

Stigmatized./ETC. 2023.06.23

Sklearn - PolynomialFeatures

Feature Engineering은 데이터의 전처리를 통해 머신러닝 모델의 성능을 향상시키는 방법입니다. PolynomialFeatures 는 주어진 입력값을 기반으로, 고차항들을 추가하는 방법입니다. scikit-learn의 패키지에서 이 기능을 제공하며, 단순한 선형모델을 활용한다는 가정 하에 보다 복잡한 다항식 모델로 변환시킬 수 있기 때문에, 입력값이 적고 비선형 데이터에 대한 모델링을 수행할 때 효과적입니다. - 기본 사용 방법 from sklearn.preprocessing import PolynomialFeatures poly = PolynomialFeatures(degree=2, include_bias=False) poly.fit_transform(pd.DataFrame([3, 6, 9]..

엑셀 행 높이를 건드릴 경우 멈춤 현상, 해결하기

윈도우 11 노트북에서, 엑셀을 사용하다 행 높이를 건드리는 경우 엑셀이 멈춰버리는 현상이 발생합니다. 엑셀이 중단되었다거나, '응답 없음' 메시지 팝업 조차 뜨지 않으며, 작업관리자에서 엑셀 전체를 종료해야만 종료가 가능합니다. 이는 엑셀에서 Shift 키를 누른 상태에서, 행 높이를 건드릴 경우 생기는 멈춤 현상입니다. 이를 해결하는 방법이 있습니다. 1. 시작키 -> 설정 2. 시간 및 언어 -> 언어 및 지역 3. 한국어 -> ... -> 언어 옵션 4. Microsft 입력기 -> 키보드 옵션 5. 이전 버전의 Microsoft IME 를 '켬' 이제 Shift를 누르고 행을 조절해도 멈추지 않습니다..

Windows_ 2023.04.06

레오폴드 기계식 키보드 커피 (라떼) 쏟았을 때 청소방법

커피를 키보드에 쏟았을 때, 심지어 라떼를 쏟았다면? 사망선고 같나요? 카페에서 커피한잔 하다가 키보드에 엄청난 양의 라떼를 쏟았습니다. 이대로 두면, 말린다고 해서 절대 정상작동 하지 않아요 ㅠㅠ 커피를 아주 살짝 흘렸다면, 키캡만 빼서 닦아주는 것도 방법입니다. 키캡 빼는 방법은 카드 2개로 지렛대 원리 이용해서 쏙 뺴주시면 됩니다. 그런데 이 글을 찾아보신 분들은, 아마 이정도로 해결이 안되신 분들이겠죠? 커피를 많이 쏟았을 때, 키 하나를 눌렀는데도 여러개가 눌리는 현상 등이 존재한다면 그건 100% 안쪽에 흡음재가 커피, 라떼, 우유 또는 수분 때문에 쇼트가 발생하는 것입니다. (쇼트: 접촉되면 안되는 두 도체가 전류적으로 접촉되는 현상) 그럼 분해를 해야겠죠? 어렵지 않습니다. 수리 쉽게 됩니..

Stigmatized./ETC. 2023.03.16

tf.keras로 Embedding layer 뜯어보기, 구현해보기

Embedding layer가 어떻게 동작하는지 정확하게 알기 위해서, 가장 쉬운 예제를 통해 이해하려고 노력해봤습니다. import tensorflow as tf from tensorflow.keras.utils import plot_model query_input = tf.keras.Input(shape=(5), dtype='int32') token_embedding = tf.keras.layers.Embedding(input_dim=5, output_dim=10) query_embeddings = token_embedding(query_input) Model = tf.keras.models.Model(inputs = query_input, outputs=query_embeddings) Model: ..

Histopathology를 다루기 위한 MIL

Bulk-sequencing 혹은 Spatial transcriptomics 데이터의 Phenotype을 보기 위해, Histopathology (혹은 Whole-slide Imaging) 데이터와 결합하여 보는 경우가 많아졌다. 나는 이 연구를 시작하게 된 계기는, 하버드 Peter park 랩에서 Normal tissue에 대한 CNV 연구가 활발한데, 정상인에서 발견되는 초기암으로 생각되는 CNV의 phenotype을 WSI에서 과연 볼 수 있을까? 에 대한 주제로 코웍을 하게 된 것인데, 만약 Histopathology에서 CNV를 어느정도 탐지할 수 있는 능력이 있다면, 때 초기암의 phenotype으로 여겨지기도 하는 hyperplasia같은 영역을 중요한 patch로 꼽지 않을까? 하는 질문..

반응형