so_sal 

  • 홈
  • 방명록
  • 오토마우스
  • Profile
  • LinkedIn

Patch 1

pytorch hub, torchvision으로 받은 모델의 forward 가져오기

Transfer learning을 수행해야할 때, torch의 hub를 활용해서 기존의 pretrained model을 가져오는 경우가 많이 있다. 그러나, 단순히 마지막 fully connected layer만을 없애고 싶은게 아니라, 중간의 feature부터 활용하고 싶은 경우가 있는데, 이런 경우는 forward 함수를 건드리면 제일 간편하다. 예를 들어, vision transformer에서, 마지막 cls token의 값을 가져오는게 아닌 patch의 정보를 가져오고 싶을때? 단순히 모델의 architecture를 수정한다고 해결할 수 있는 문제는 아니다. forward 함수에서, cls token만 짚어서 return하고 있기 때문이다. 이런 경우, python의 inspect를 활용하면 매우..

Major Study./Computer Science 2024.03.09
이전
1
다음
더보기
프로필사진

so_sal 

Bioinformatics analyst Data scientist

  • Sosal~ (805)
    • Stigmatized. (344)
      • Essay (56)
      • ETC. (63)
      • Adobe acrobat (28)
      • Music story (84)
      • Game posting (11)
      • Fish (6)
      • Closed (0)
      • University (20)
      • Investment Techniques (13)
      • Outing (51)
      • Tistory (1)
      • epilogue (9)
      • The Grande Music Studio (1)
    • Major Study. (164)
      • Computer Science (51)
      • Bioinformatics (78)
      • System hacking (25)
      • Journal study (7)
      • Image Processing (3)
    • Linux (58)
      • Linux_programing (25)
      • Linux_technic (24)
      • Linux_Source (9)
    • Windows_ (50)
      • Windows32_API (19)
      • Windows_C# & App (25)
      • Windows_Source (4)
    • Programing (146)
      • C- programing (41)
      • Java & Android App. (4)
      • Assembley 16bit (6)
      • R- programming (59)
      • ETC_programming (6)
      • Algorithm (9)
      • Julia programming (1)
      • Python programming (18)
      • Flutter (1)
      • Vue (0)
    • Web programing (42)
      • HTML & CSS (12)
      • Javascript (20)
      • JSP (5)

Tag

리눅스, PDF, find, fork, 어도비, socket, 시스템, 아크로뱃, Acrobat, SIS, process, binary, 프로세스, system, 애크로뱃, 링크드리스트, Linux, adobe, Acrobat9, sosal,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

  • 오토마우스 무한클릭
  • 운영자 프로필
  • 코드악보 채보신청

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/08   »
일 월 화 수 목 금 토
1 2
3 4 5 6 7 8 9
10 11 12 13 14 15 16
17 18 19 20 21 22 23
24 25 26 27 28 29 30
31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

  • SNUBI
  • Dakuo
  • Posaengi
  • 방명록

티스토리툴바