본문 바로가기
  • 책상 밖 세상을 경험할 수 있는 Playground를 제공하고, 수동적 학습에서 창조의 삶으로의 전환을 위한 새로운 라이프 스타일을 제시합니다.

전체 글229

[2024-2] 박경태 - deeplearning: Probability and Information Theory https://www.deeplearningbook.org/contents/prob.html https://www.deeplearningbook.org/contents/prob.html www.deeplearningbook.org I. 확률 이론의 기초1. 확률과 불확실성확률 이론은 불확실성을 다루는 수학적 도구다. 많은 자연 현상과 시스템은 본질적으로 불확실성을 포함하고 있으며, 이를 정량적으로 표현하는 데 확률 개념이 활용된다.불확실성은 다음과 같은 세 가지 주요 원천에서 발생한다:내재적 확률성시스템 자체가 본질적으로 확률적으로 작동하는 경우.예: 양자역학에서의 입자의 움직임, 무작위로 섞인 카드의 순서.불완전한 관측모든 변수를 관측하지 못해 발생하는 불확실성.예: 몬티홀 문제에서 문 뒤의 자동차 위.. 2025. 1. 3.
[2024-2] 최민서 - Deep Unsupervised Learning using Nonequilibrium Thermodynamics https://arxiv.org/abs/1503.03585 Deep Unsupervised Learning using Nonequilibrium ThermodynamicsA central problem in machine learning involves modeling complex data-sets using highly flexible families of probability distributions in which learning, sampling, inference, and evaluation are still analytically or computationally tractable. Here, we develarxiv.org 생성형 모델이 이미지를 생성하는 방식은 다양하고 그 중 하나가 di.. 2025. 1. 3.
[2024-2] 박경태 - deeplearning: Linear Algebra https://www.deeplearningbook.org/contents/linear_algebra.html https://www.deeplearningbook.org/contents/linear_algebra.htmlChapter 2 Linear Algebra Linear algebra is a branch of mathematics that is widely used throughout science and engineering. Yet because linear algebra is a form of continuous rather than discrete mathematics, many computer scientists have little experiencewww.deeplearningbook.. 2024. 12. 31.
[2024-2] 김지원 - HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction 논문 링크 :  HybridRAG: Integrating Knowledge Graphs and Vector Retrieval Augmented Generation for Efficient Information Extraction  논문 리뷰에 앞서 RAG에 대한 간략한 소개 RAG(Retrieval-Augmented Generation)은 Lewis et al.(2020) 논문에서부터(아래 링크 참고) 등장하였는데 이 논문에서는 LLM이 parametric memory(모델 학습 시 배우게 되는 지식) 뿐만 아니라 non-parametric memory(예를 들어 Wikipedia 등 외부 지식)을 활용하여 QA task에 높은 성능을 내도록 했다.대표적인 사례로 Perplexity가 존재하며 그 작동 .. 2024. 12. 31.