Find for your own rhythm

clipceil 논문 리뷰를 해보고자 한다, DG를 하면서 읽은 논문들을 잘 섞어놓은 깔끔한 논문이라고 생각해서,, 리뷰를 하게됐다## abstract해당 논문은 domaindrop 논문에서 motivation을 삼아서 시작한 논문이였는데 (openreview 참고) clip class token의 channel 에서 domain bias, class irrelevant featurer가 섞여있기 때문에 channel refinement + lightweight adapter + image-text aligmenet 강화를 위한 loss 로 generalization 성능을 향상시켰다는 논문이다. domaindrop 논문과 마찬가지로 channel의 domain, class shift별 sensitivi..

https://arxiv.org/pdf/2305.03053Motivation : 모델 학습시킬 때 additional task training => catastrophic forgettingWithout adaptation => doesn’t generalizeMerging 방법이 새로운 건 아니지만 disjoint task 들을 merging 할때는 실패할 수 있다하고 싶은 건 differently initialized model + 완전 다른 task 로 학습된 모델들의 merging 을 수행하는 것  [제안]1.Model 들간 shared 하지 않는 feature 들을 zip operation 을 수행2.Partially zipping 으로 multi-head model 과 같은 역할전체 netwo..

저자 : Ki Hwan,MD , Sang Hyup Lee, MD 유방암 검진과 유방촬영술 유방암은 환자수가 빠르게 증가하고 있다. 유방암 선별검사는 증상없는 여성에서 유방암을 조기 발견해 유방암 사망률을 낮출 수 있는 것으로 보고 된다. -> 유방촬영술은 조기검진을 위한 효과적인 방안 문제 1) 단독으로 유방암 검사하기엔 민감도가 부족한 검사 - 유방실질조직에 가려져 인지 어려움 - 양성과 악성 구분 어려움 + 낮은 민감도 극복 위한 노력 -> 높은 위양성률 문제 - 아시아인에게 많은 치밀유방 -> 판독 어려움 전통적인 CAD 시스템의 도입 CAD ( 컴퓨터 보조 발견, computer-aided detection), CADx(컴퓨터 보조 진단, computer-aided diagnosis) CAD 이용..

https://openreview.net/pdf?id=_zznzJjuaIS 학회에서 논문을 하나 골라 리뷰하는 시간이 있어 그때 내가 연구하는 주제와 굉장히 밀접한 논문을 선택해 읽게됐다. 센티넬 림프노드를 self-attention networks와 contrastive learning을 이용해 prediction하는 내용이다 이는 발표를 했기 때문에 이해하기 쉽게 정리해논 피피티도 만들었는데, 파일이 커서 첨부는 못했다.. sentinel lymph node? sentinel lymph node란 SLN(약자)로 불리고 피부암(ex) melanoma) 등 암이 생겼을 때 제일 먼저 전이가 일어난 림프절이다. 이는 없는 환자도 많고 검사하기 까다롭지만 중요한 전조증상이라 확인이 필수적이다. 이 논문은 ..

현재 swin transformer을 사용하는 swinUNETR모델도 연구 중에 사용하는 모델이다 사실 현재 진행중인 연구가 교수님 말씀으로는 데이터가 더 중요한 연구기 때문에 모델이 바뀐다고 큰 개선은 기대하지 못할수도 있다고 하셨지만.. 일단 나는 모델을 바꾸고 조절하는 공부를 하고 있다. 이전엔 unetr이나 segresnet도 사용했었는데 몇 주 동안은 swinUNETR로 연구를 진행해봤었다. swinunetr의 코드 중 forward 부분이다 swinViT(swin transformer)로 hidden_state_out을 하고 이를 encoder로 보내는 걸 확인할 수 있다. 처음엔 hidden_state가 무슨 역할을 하는지 의문을 가졌지만 공부하면서 (교수님 설명으로) encoder에 들어가..