본문 바로가기
  • 책상 밖 세상을 경험할 수 있는 Playground를 제공하고, 수동적 학습에서 창조의 삶으로의 전환을 위한 새로운 라이프 스타일을 제시합니다.

전체 글428

[2026-2] 정유림 - Neural Thickets:Diverse Task Experts Are Dense Around Pretrained Weights 논문제목: Neural Thickets: Diverse Task Experts Are Dense Around Pretrained Weights링크: https://arxiv.org/pdf/2603.122282026년 3월 arXiv preprintICML 2026 Spotlight핵심 요약충분히 크고 잘 pretrain된 모델에서는 현재 pretrained weight 근처에 서로 다른 downstream task를 잘하는 task-specific weight solutions이 많이 존재한다. 저자들은 이런 weight-space 구조를 Neural Thicket이라고 부른다.그래서 굳이 gradient descent나 RL로 수백 step에 걸쳐 좋은 weight를 찾아갈 필요 없이,pretraine.. 2026. 9. 13.
[2026-2] 김지원 - Machine Learning-based Relative Valuation of Municipal Bonds 논문 제목 : Machine Learning-based Relative Valuation of Municipal Bonds인용 수 : 8회(2026-09-13 기준)비고 : ACM 2024에서 발표됨 1. 들어가며주식은 거래소에서 하루에도 수백만 번씩 체결되지만, 미국 지방채(municipal bond, 이하 muni bond)는 사정이 전혀 다름. 시장에 유통 중인 종목만 100만 개가 넘는데, 그중 실제로 거래가 이루어지는 비중은 하루 기준으로 약 2%에 불과함. 이런 시장에서 "이 채권이 지금 싸게 거래되고 있는가, 비싸게 거래되고 있는가"를 판단하는 일—이른바 상대가치 평가(relative valuation)—은 생각보다 훨씬 어려운 문제가 됨.전통적으로 이 문제는 사람이 정한 규칙이나 경험칙(r.. 2026. 9. 13.
[2026-2] 이루가 - KAN or MLP: A Fairer Comparison 논문링크: https://arxiv.org/abs/2407.16674 KAN or MLP: A Fairer ComparisonThis paper does not introduce a novel method. Instead, it offers a fairer and more comprehensive comparison of KAN and MLP models across various tasks, including machine learning, computer vision, audio processing, natural language processing, and symbolicarxiv.org Abstract 새로운 방법론 제안이 아닌 KAN과 MLP의 공정하고 포괄적인 비교 연구Machine Learn.. 2026. 9. 13.
[2026-1] 정인아 - VL-Cache: Sparsity and Modality-Aware KV Cache Compression for Vision-Language Model Inference Acceleration 논문 제목 : VL-Cache: Sparsity and Modality-Aware KV Cache Compression for Vision-Language Model Inference Acceleration (ICLR 2025)논문 링크 : https://arxiv.org/abs/2410.23317 Summary기존 KV cache compression은 주로 LLM을 대상으로 설계되어 있는데, LLM용 방법을 VLM에 그대로 적용하기에 VLM에는 vision/text 서로 다른 modality의 token이 섞여 있기 때문에 문제가 된다.구체적으로 1) visual token과 language token의 attention pattern이 다르고, 2) layer마다 attention sparsity도.. 2026. 9. 13.