반응형

Sosal~ 804

LLM을 medical text에 활용해보면서 느낀점 및 정리

요즘 Large Language Model (LLM) 모델의 인기가 엄청나다. 주로 유전체 정보와 환자의 영상이미지, 병리이미지 등을 다루다가, 이제는 pathology 및 radiology report까지도 다루게 됐다. 모든 연구자들은 빠르게 아무도 안해본 데이터를 활용해서 새로운 결과를 만들어 좋은 저널페이퍼를 출간하고 싶은 법.. 나도 텍스트 데이터에 전혀 관심이 없다가 이번에 LLM을 활용해보면서 든 생각들을 정리해보았다.  필요한 GPU 메모리는 어느정도인가?현재 내가 쓰고있는 GPU는 A6000 * 8개짜리로, 각 gpu는 대략 48기가의 용량을 갖는다.내 경험상, 이 정도의 서버 스팩이면 7B 사이즈 정도의 텍스트는 충분히 처리할 수 있었다.대략 7,000 ~ 12,000 개 정도로 된 i..

AI Performance metrics CI 구해주는 R 코드

매번 똑같은거 Metrics 구해놓고CI 다시 계산한다고 시간을 보내고 있는 나를 발견.... 그냥 블로그에 올려놓고 생각나면 편하게 와서 긁어 쓰려구 포스팅 함수 정의 library(boot)library(Epi)library(pROC)calc_metrics function(data, indices) {    d data[indices, ]    tp sum(d$predictions == 1 & d$label == 1)    tn sum(d$predictions == 0 & d$label == 0)    fp sum(d$predictions == 1 & d$label == 0)    fn sum(d$predictions == 0 & d$label == 1)        acc (tp + t..

SlicerJupyter 설치 및 실행하기 Tutorial

Command line 서버에서 SlicerJupyter를 설치하려다 낭패를 봤다.(알고보니 GUI 없이는 거의 불가능한 수준의 난이도였음) 이 패키지가 필요한 것이, 어차피 이미지 전처리만을 위한거라서그냥 후딱 랩탑에서 전처리만 돌려놓고 서버로 옮기려고,labtop에서 설치해봤다. 이게 알면 엄청 쉬운데, 이게 사람이 삽질을 계속 하게만든다...Install & Run Instruction이 진짜 허접하게 되어있다.(그냥 한줄로 실행하면 됨~ 수준) 혹시라도 이걸 활용하시는 한국인이 계신다면..저 처럼 몇시간을 낭비하지 않으셨으면 해서 간단하게 리뷰를 남겨봅니다.  https://github.com/Slicer/SlicerJupyter GitHub - Slicer/SlicerJupyter: Extens..

옐로스톤 여행, 캠핑카 로드트립 최종 가이드

2024년 6월 9일 ~ 15일, 총 5박 6일 간의 캠핑카 여행을 하면서 준비했던 모든 일정, 캠핑사이트, 액티비티, 스팟, 준비물들을 총 정리해봅니다. 옐로스톤 여행을 준비하시는 분 들에게 도움이 되었으면 좋겠습니다. [ 목차 ]1. 캠핑카 여행 필수 준비물2. 캠핑사이트 및 숙소 예약3. 추천 방문 코스, 스팟, 이벤트4. 옐로스톤 액티비티  ## 1. 캠핑카 여행 필수 준비물 ## 1) 바베큐 용품 그릴, 숯불, 스타터, 불쏘시개, 토치, 장갑 (장작은 공원내 불가능)아이스박스 및 얼음 2) 캠핑용품캠핑카용 휴지, 용변 분해제 (Porta pak)3) 조리도구냄비, 호일, 칼, 도마, 가위, 주방세제, 수세미, 접시, 컵, 수저, 키친타올4) 음식소금, 설탕, 식용유, 간장, 양파, 당근, 감자,..

Stigmatized./Outing 2024.06.23

요세미티 1박 2일 여행 가이드: 필수 코스와 꿀팁 총정리

이 글에서는 요세미티 여행에 관련된 모든 내용을 총.정.리 합니다. [ 목차 ]1. 요세미티 입장 정보 및 주차 안내2. 필수 준비물 체크리스트3. 숙박 및 캠핑장 예약4. 1박 2일 코스 추천5. 포인트별 사진 1. 요세미티 입장 정보 및 주차 안내2024년 기준으로 아래 날짜는 무조건 예약하셔야 입장하실 수 있습니다 !!!4월 13일 - 6월 30일: 주말 (토요일, 일요일) 및 공휴일7월 1일 ~ 8월 16일: 모든 날짜8월 17일 ~ 10월 27일: 주말 (토요일, 일요일) 및 공휴일 ( 2024년 이후로는 아래의 사이트에서 자세한 정보를 확인해주세요. ) https://www.recreation.gov/timed-entry/10086745 Yosemite National Park Ticketed..

Stigmatized./Outing 2024.06.18

샌프란시스코 (로컬 브런치 맛집) Mama's on washington square

오랜만에 차를 끌고, 아침부터 샌프란까지 열심히 달렸습니다. 브런치를 먹기위해!! 오늘의 내돈내산, 절대적 미각의 미식가 세명이 맛집 탐방 및 평가를 내리기위해, 샌프란에 도착했습니다. 바로 Mama's on washington sqaure https://maps.app.goo.gl/LhoLyphmKe5UWCBR8 Mama's On Washington Square · 1701 Stockton St, San Francisco, CA 94133 미국 ★★★★☆ · 브런치 식당 www.google.com Mama's 는 현지인들에게 유명하고, 인기 있는 로컬 브런치 식당이어서 줄을 설 각오를 해야해요 ㅠ 저희도 11시 조금 넘어서 도착했더니 앞에 6팀 정도 기다리고 있었어요. Mama's 내부가 넓지 않고, ..

Stigmatized./Outing 2024.04.19

libmysqlclient.so.20 RMySQL 에러

R에서 다음 패키지를 활용할 때, libmysqlclient.so.20 에러가 나는 경우가 있다. No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 22.04.4 LTS Release: 22.04 Codename: jammy R 4.3.2와 Ubuntu 22.04를 활용중. 뭔가 에러가 해결하기 쉽지 않았는데, libmysqlclient.so.20 설치만으로 끝나지 않아서, 다시 삽질하지 않도록 블로그 포스팅. > library(RMySQL) Error: package or namespace load failed for ‘RMySQL’ in dyn.load(file, DLLpath = DLLpath, ...): unable ..

pytorch hub, torchvision으로 받은 모델의 forward 가져오기

Transfer learning을 수행해야할 때, torch의 hub를 활용해서 기존의 pretrained model을 가져오는 경우가 많이 있다. 그러나, 단순히 마지막 fully connected layer만을 없애고 싶은게 아니라, 중간의 feature부터 활용하고 싶은 경우가 있는데, 이런 경우는 forward 함수를 건드리면 제일 간편하다. 예를 들어, vision transformer에서, 마지막 cls token의 값을 가져오는게 아닌 patch의 정보를 가져오고 싶을때? 단순히 모델의 architecture를 수정한다고 해결할 수 있는 문제는 아니다. forward 함수에서, cls token만 짚어서 return하고 있기 때문이다. 이런 경우, python의 inspect를 활용하면 매우..

미국 코스트코에서 테슬라Y 타이어 공기압 보충하기

미국에서 테슬라 Y를 타고있었는데, 겨울이 되니 날씨좋은 샌프란에서도 기온이 낮아져 타이어 공기압이 많이 줄어든 것 같아요. 현재 타이어의 공기압은 38 psi, 37 psi 라고 뜨네요. 테슬라Y의 Recommended pressure는 기본적으로 42 psi 입니다. 타이어샵 잘못갔다가 사람에게 맡기면 또 돈이 많이 듭니다 ㅠㅠ 그런데 타이어 공기압은 미국에서 쉽게 셀프로 충전할 수 있습니다. 미국에서 테슬라Y의 공기압을 채우는 방법은 바로 바로... 코스트코!! Costco 입니다. 미국 코스트코의 주차장 한켠에, 아래와 같이 노란 기둥과 함께 우두커니 공기압 충전기가 있습니다. 코스트코의 셀프 공기압 충전소에 차를 대시고 위 화면에 뜨는 숫자가 바로 psi 입니다. 맞추고자 하는 공기압을 + 와 ..

Stigmatized./Essay 2024.01.31

AstraZeneca: 신약개발에 Medical imaging의 역할

Stanford Medicine, Lucas Center에 Astrazeneca inc,의 James MacKay 박사 발표를 들으며 정리한 내용. Title: The role of radiological imaging in clinical drug development Abstract: In this talk, I will describe the broad role of radiological imaging in clinical drug development – the unmet needs in drug development that imaging can potentially address, the potential use cases of imaging across the drug development..

반응형