이전 글에 이어서 작성합니다. Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.com Zero-shot learning, Metric Learning Approach 이해하기https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면ray5273.tistory...
이전 Few-Shot Learning과 Zero-shot Learning에 이어서 세번째로 글을 작성 해 봅니다.이전 글은 아래 링크를 통해서 확인할 수 있습니다. Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.com Zero-shot learning, Metric Learning Approach 이해하기https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 ..
https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.comFew-Shot Learning에 이어서 포스트를 진행합니다.이번에는 Zero-shot learning입니다. Zero-Shot LearningFew-Shot Learning은 데이터를 많이 주지 않고 몇 개만 주고 데이터를 학습시키겠다는 방법이었습니다.그런 이름에서 유추할 수 있듯, Zero-Shot Learning은 ..
회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learning 이었습니다. Few-shot learning 의 필요성일반적인 머신러닝 혹은 딥러닝의 경우 학습에 있어서 대량의 데이터가 필요합니다.예를 들어, 고양이 사진을 분류하는 모델을 학습하려면 수천/수만개의 고양이와 고양이와 관련 없는 사진이 필요합니다. 하지만, 사람의 경우에는 이전의 지식을 통해서 다른 지식을 추가로 쉽게 학습합니다.힌트가 몇개 없더라도 기존 지식과 차이를 통해서 다른 점을 인식하고 분류할 수 있습니다.이런 원리에 입각하여 AI 모델에도 몇 개의 데이터로도 결과를 추론 ..
Naive RAG1. Indexing문서로 부터 데이터를 추출합니다.PDF,HTML, Word 같은 다양한 파일을 plain text로 변환합니다.LLM 모델은 한번에 처리가능한 텍스트의 최대 길이가 제한되어있습니다.그래서 데이터를 청크 단위로 분리해서 효율적으로 관리합니다. (Chunking)2. Retrieval사용자 Query를 vector화 시키고 관련 데이터를 가지고 있는 Vector DB에 존재하는 vector와 비교했습니다.3. Generation쿼리와 데이터를 prompt에 입력하여 합치는 과정입니다.vector db에 저장된 데이터와 LLM의 응답을 합쳐 답변을 생성합니다. 기존 Naive RAG의 문제점1. Contextual 이해에 한계가 있습니다.키워드 일치성이나 기본 Semanti..
Vector DB란?핵심 요소는 3가지입니다.1. Vector2. Dimensionality3. Similarity Search Vector란?수학적으로 방향 (direction)과 크기 (magnitude)가 존재하는 값입니다. 왜 Vector DB를 써야 하는가?80%의 데이터는 unstructured data입니다.예를 들면 사진, 음악, PDF, 영상 등이 있죠.그래서 기존의 Relational DB에 위와 같은 데이터들을 저장하기 위해서는 별도의 메타데이터를 추가하는 등의 작업이 필요합니다.잘 어울리지는 않는 use case에 가깝죠. 반면 vector DB는 이러한 unstructured data의 저장에 특화되어 있습니다.왜일까요?1. 비정형 데이터를 의미 벡터로 변환해 저장임베딩 : 비정형..
Vector DB에 대해서 정리 하면서 궁금한점을 중간 중간에 추가해 두었고 그에 대한 답도 추가해 두었습니다.전통 DB의 특징RDBMS 기반입니다.Structured data 입니다 - predefined column과 row가 있습니다.Schema-based - database structure는 사용전에 미리 정의되어야 합니다.Data manipulation and querying - SQL로 데이터를 조작해야함.ACID Compliant - Atomicity, Consistency, Isolation, Durability를 보장해야함.Indexing - 데이터 검색 및 가져오기를 빠르게 하기 위함. 전통 DB의 한계Scalability - 큰 테이블에 대해서 복잡한 쿼리를 처리하는데 어렵다.Fle..
Vector Similarity 측정 방법vector similarity는 기본적으로 vector의 방향, 크기, 그리고 상대적인 위치에 영향을 많이 받습니다.이를 고려해서 vector similarity를 측정할 수 있는 3가지 정도의 방법이 있는데 아래와 같습니다. 1. Cosine Similarity위의 예제를 Cosine Similarity를 통해서 계산하면 아래와 같은 결과가 나옵니다. 2. Euclidean Distance1. vector의 크기가 고려 되어야할때2. clustering 할때 가장 이상적임과 같은 두가지 특징을 가지고 있습니다. 3. Dot Product1. Image 검색과 도출2. 음악 추천등에 도움이 되는 계산 방식이라고 합니다.