본문 바로가기

Deep Learning

 (4)
Bootstrap Your Own Latent A New Approach to Self-Supervised Learning 리뷰 Grill, Jean-Bastien, Florian Strub, Florent Altché, Corentin Tallec, Pierre Richemond, Elena Buchatskaya, Carl Doersch et al. "Bootstrap your own latent-a new approach to self-supervised learning." Advances in neural information processing systems 33 (2020): 21271-21284. DINO v1 에서 사용한 방법 중 BYOL이라는 모델에 대한 논문 리뷰이다. Abstract Boostrap Your Own Latent은 자기주도 학습을 위한 방법으로 online, target이라는 2개의 네트워크가 상호..
Point Transformer V3 : Simpler, Faster, Stronger Wu, Xiaoyang, Li Jiang, Peng-Shuai Wang, Zhijian Liu, Xihui Liu, Yu Qiao, Wanli Ouyang, Tong He, and Hengshuang Zhao. "Point transformer v3: Simpler, faster, stronger." arXiv preprint arXiv:2312.10035 (2023). Point Transformer v1,v2 에 이은 v3가 발표되었다. 24.04.03 날짜의 paperswithcode 사이트 기준 대부분의 Task에서 상위권에 분포하고 있다. Abstract v3에서는 새로운 어텐션을 소개하기 보단 v2에 대한 효율성을 증가시켰다. n=16의 kNN을 대체하여 n=1024의 neighbor mapp..
Point Transformer V2: Grouped Vector Attention and Partition-based Pooling Wu, Xiaoyang, et al. "Point transformer v2: Grouped vector attention and partition-based pooling." Advances in Neural Information Processing Systems 35 (2022): 33330-33342. Point Transformer V2: Grouped Vector Attention and Partition-based Pooling Requests for name changes in the electronic proceedings will be accepted with no questions asked. However name changes may cause bibliographic trackin..
Point Transformer v1 리뷰 Zhao, Hengshuang, et al. "Point transformer." Proceedings of the IEEE/CVF international conference on computer vision. 2021. Abstract우리는 자연어 처리에서 깊은 인상을 남긴 Self-attention network에서 감명을 받아 이를 3D point cloud processing에 적용하고자 한다. Point Transformer은 다양한 domain, task에 접목 가능하도록 디자인되었고, semantic scene segmentation, object part segmentation, object classification에 사용이 가능하도록 설계되었다. Point Transformer에 대한..

티스토리툴바