본문 바로가기
  • 책상 밖 세상을 경험할 수 있는 Playground를 제공하고, 수동적 학습에서 창조의 삶으로의 전환을 위한 새로운 라이프 스타일을 제시합니다.

NLP112

[2024-1] 양소정 - A Survey of the State of Explainable AI for Natural Language Processing https://arxiv.org/abs/2010.00711Abstract최근 몇 년간 state-of-the-art 모델의 품질이 크게 향상되었지만, 해석 가능성이 감소했다.2020년 기준 자연어 처리(NLP) 분야에서의 설명 가능한 인공지능(Explainable AI, XAI)의 상태를 다룬다.모델 개발자를 위한 NLP 모델 예측에 대한 설명을 생성하는 데 사용할 수 있는 작업과 기술을 자세히 설명한다.마지막으로 현재 부족한 점을 지적하고 향후 연구 방향을 제시한다.Introduction기존의 NLP 시스템은 규칙(rules), 의사결정 트리(decision trees), 히든 마르코브 모델(hidden Markov models), 로지스틱 회귀(logistic regressions) 등 ‘화이트 박스.. 2024. 6. 29.
[2024-1] 현시은 - CodeS: Towards Building Open-source Language Models for Text-to-SQL 원본 논문 링크 : https://arxiv.org/abs/2402.16347 CodeS: Towards Building Open-source Language Models for Text-to-SQLLanguage models have shown promising performance on the task of translating natural language questions into SQL queries (Text-to-SQL). However, most of the state-of-the-art (SOTA) approaches rely on powerful yet closed-source large language models (LLMs),arxiv.org Abstract언어 모델은 자연어 질문을.. 2024. 5. 28.
[2024-1] 현시은 - AIOS: LLM Agent Operating System 원본 논문 링크 : https://arxiv.org/abs/2403.16971 Abstract LLM 기반 agent의 통합 및 배포는 효율성 측면에서 많은 문제가 있다.예를 들어, LLM agent의 스케줄링, 리소스 할당, 스케줄링으로 인한 context 유지 및 전환, multi-agent 상황에서의 효율성 저하 등이 있다.Agent가 많아지고 복잡해지면 이런 문제는 큰 bottleneck이 되고, 리소스 활용을 최적화하기도 어렵다.위 문제를 해결하기 위해 본 논문은 LLM agent들을  OS의 개념을 활용하여 관리하는 새로운 OS 아키텍처인 AIOS를 제시한다.AIOS는 리소스 할당 최적화, Agent 간 context switching, Agent 동시 실행 지원, Agent Toolkit 제.. 2024. 5. 17.
[2024-1] 현시은 - Optimizing LLM Queries in Relational Workloads 원본 논문 링크 : https://arxiv.org/abs/2403.05821 Optimizing LLM Queries in Relational WorkloadsAnalytical database providers (e.g., Redshift, Databricks, BigQuery) have rapidly added support for invoking Large Language Models (LLMs) through native user-defined functions (UDFs) to help users perform natural language tasks, such as classification, entarxiv.org Abstract LLM은 굉장히 범용적으로 사용되고 있지만, LLM infe.. 2024. 5. 14.