![Effective LLMs and MoE (Mixture of Experts)](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2FG9WHw%2FbtsMg5fLSoE%2FEZ36tsrSzLl49XLyVXCMD0%2Fimg.jpg)
Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.com Zero-shot learning, Metric Learning Approach 이해하기https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면ray5273.tistory.com Meta Learning ..
![Transformer 이전의 NLP 역사들](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2FbDLfXO%2FbtsMeM2sLBC%2FkmuKJ1Wp3KpgCgX2Ys3gC1%2Fimg.jpg)
현재 사내에서 Build a Large Language 책에 대한 스터디를 진행중인데 지난주에 NLP 관련된 질문이 있어서 이를 정리하려고합니다.또한, NLP 대한 내용 중 Transformer 모델 이전의 내용을 다루고 있습니다. 1. Natural Language Processing (NLP) 란 무엇인가?NLP는 아래와 같은 두 가지 능력을 포함하는 개념이라고 합니다.1. Natural Language Understanding2. Natural Language Generation또한 NLP의 주요 목적은 컴퓨터를 이용해 human language를 다루는 것입니다.NLP를 통해 아래와 같은 동작을 할 수 있습니다.1. human - machine 사이의 communication - 질의 응답, 단락..
![영어 회화 수업 자가 피드백 하기 - ChatGPT와 프롬프트 활용](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2F4wEgv%2FbtsMfbHzivv%2FJXLIcI8TOaNANUQ00sdHqK%2Fimg.png)
매주 Preply를 통해서 영어 회화를 하고있는데 영어 수업때 나온 표현이나 단어들을 추가로 복습하고 제가 말했던 잘못된 문장을 교정하고 싶어서 이를 교정하기 위한 프롬프트를 만들어 보고 저장해두려고합니다. 프레플리 (Preply) 화상 영어 회화 진행 후기 및 친구 초대 코드화상 영어를 하게 된 이유 업무적으로 영어 회화를 잘 하면 커리어적으로나 추가로 얻을 수 있는 부분이 많을거라고 생각이 들어서 최근 영어 회화의 필요성이 느껴졌습니다.여러가지 공부 방ray5273.tistory.com 영어 회화 수업 복습 과정아래와 같은 과정을 거쳐서 영어 수업에 대한 복습을 추가로 진행하고있습니다.1. 현재 OBS Studio를 통해서 저와 튜터의 대화를 녹음합니다.2. 녹음 파일을 아래의 다글로 라는 사이트를 ..
![Multimodal AI에 대한 여러 의견과 주요 모델들](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2Fbmq7zc%2FbtsMdlJyHOy%2FSB3tVeMKW1UuYSF6QZcAkK%2Fimg.webp)
이전 문서들에 이어서 교수님의 강의를 기반으로 한 내용을 추가합니다. Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.com Zero-shot learning, Metric Learning Approach 이해하기https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 ..
![Github 변경에 대한 mattermost bot 코드를 Cursor AI 활용해서 재작성하기](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2FcWGwhf%2FbtsMbBtkHqF%2FYWFCokkCTi5NlTpgRnw740%2Fimg.webp)
Cursor AI를 통해서 코드 재작성 및 배포에 얼마나 효율적인지를 확인해보려고합니다.일단은 요구사항부터 아래와 같이 정리를 해보겠습니다.1. 요구사항 분석Github Review 관련 알림PR 생성 감지:새로운 Pull Request가 생성되었을 때 알림을 전송합니다.PR 업데이트 감지:기존 PR에 커밋이 추가되었을 때 업데이트 이벤트를 감지합니다.리뷰 추가 감지:PR에 리뷰가 작성된 경우 알림을 전송합니다.PR 머지 감지:PR이 머지되었을 때 해당 이벤트를 체크합니다.CI/CD 알림CI/CD 빌드 실패:특정 리포지토리의 빌드가 실패하면, Github Actions Summary에서 제공하는 링크(예: 상세 빌드 로그)를 포함하여 알림 메시지로 전송합니다.데이터베이스 구성Postgres 사용:이벤트 ..
![Continual Learning, Knowledge Distilation 이해하기](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2FeEg5mO%2FbtsL38xY1GY%2FI1doGV9xLwBgS3r0i1IvAk%2Fimg.png)
이전 글에 이어서 작성합니다. Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.com Zero-shot learning, Metric Learning Approach 이해하기https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면ray5273.tistory...
![Meta Learning - MAML, Reptile 이해하기](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2Fl2Wf5%2FbtsL4nUNzV5%2FNyNErsjkN081me9IZX1qkk%2Fimg.jpg)
이전 Few-Shot Learning과 Zero-shot Learning에 이어서 세번째로 글을 작성 해 봅니다.이전 글은 아래 링크를 통해서 확인할 수 있습니다. Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.com Zero-shot learning, Metric Learning Approach 이해하기https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 ..
![Zero-shot learning, Metric Learning Approach 이해하기](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2Fbuibg9%2FbtsL01M7eUP%2Fh7K3lzVjIYp9P3VeWlAgT0%2Fimg.webp)
https://ray5273.tistory.com/entry/Few-Shot-Learning-이해하기 Few-Shot Learning 이해하기회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learay5273.tistory.comFew-Shot Learning에 이어서 포스트를 진행합니다.이번에는 Zero-shot learning입니다. Zero-Shot LearningFew-Shot Learning은 데이터를 많이 주지 않고 몇 개만 주고 데이터를 학습시키겠다는 방법이었습니다.그런 이름에서 유추할 수 있듯, Zero-Shot Learning은 ..
![Few-Shot Learning 이해하기](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2FL1dup%2FbtsL1YPTXDn%2F9GIrKTAXSOYi2FjFd2KUL1%2Fimg.jpg)
회사에서 AI 관련 교육이 있어서 내용을 정리 해 두려고 합니다.서울대학교 AI 교수님께서 Multi Modal과 관련된 내용을 하면서 나온 내용의 일부입니다.가장 처음으로 학습한 내용이 바로 Few-Shot Learning 이었습니다. Few-shot learning 의 필요성일반적인 머신러닝 혹은 딥러닝의 경우 학습에 있어서 대량의 데이터가 필요합니다.예를 들어, 고양이 사진을 분류하는 모델을 학습하려면 수천/수만개의 고양이와 고양이와 관련 없는 사진이 필요합니다. 하지만, 사람의 경우에는 이전의 지식을 통해서 다른 지식을 추가로 쉽게 학습합니다.힌트가 몇개 없더라도 기존 지식과 차이를 통해서 다른 점을 인식하고 분류할 수 있습니다.이런 원리에 입각하여 AI 모델에도 몇 개의 데이터로도 결과를 추론 ..
![[서평] 프롬프트 엔지니어링의 비밀](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2Fb8gtq7%2FbtsL2lX0zOj%2FqOA1NomI4wVjoEbHI8i841%2Fimg.jpg)
프롬프트 엔지니어링의 비밀 책에 대한 서평입니다.사실 개인적으로는 프롬프트 엔지니어링이 뭔지 왜 써야하는지를 정확하게 납득하지 않았던 입장이었습니다.그냥 프롬프트 내용을 필요한만큼 포함시켜서 ChatGPT에게 요청하면 딱 그대로 오는거 아닌가 싶었고, 이게 엔지니어링이라고 할 만큼의 난이도 있는 작업인지 진짜로 필요한 업무의 종류인지 그런 것들이 궁금했습니다. 주요 내용주요 내용은 각 상황에서 어떤 프롬프트를 사용해야 하는지 어떤 내용을 포함해야하는 지를 설명하고 있습니다.실제 프롬프트 예시를 통해서 LLM의 대답을 잘 이끌어내는게 목표라고 볼 수 있겠습니다.왜 프롬프트를 잘 써야하는지, 어떤 방식으로 잘 써야하는지를 알려 주는 것이 주요 내용이었습니다. 좋았던 점개인적으로 좋았던 점은 왜 프롬프트를 잘..