Transformer 바닥부터 이해하기 - 1. Attention 이해하기Attention의 내부를 뜯어보고 이해하기 위한 포스트를 작성합니다. Attention을 이해하기 위한 기반 지식Encoder-decoder ArchitectureAttention을 이해하기 위해서는 Encoder-decoder 아키텍처에 대해서 이해를 해ray5273.tistory.com Transformer 바닥부터 이해하기 - 2. Transformer 구조Transformer 바닥부터 이해하기 - 1. Attention 이해하기Attention의 내부를 뜯어보고 이해하기 위한 포스트를 작성합니다. Attention을 이해하기 위한 기반 지식Encoder-decoder ArchitectureAttention을 이해하기 위ra..

Transformer 바닥부터 이해하기 - 1. Attention 이해하기Attention의 내부를 뜯어보고 이해하기 위한 포스트를 작성합니다. Attention을 이해하기 위한 기반 지식Encoder-decoder ArchitectureAttention을 이해하기 위해서는 Encoder-decoder 아키텍처에 대해서 이해를 해ray5273.tistory.com이전 글인 Attention 이해하기에 이어서 이제는 제대로 Transformer를 이해해봅시다.혹시나 이전글을 읽지 않으셨다면 읽고 이 글을 읽으시면 이해가 훨씬 잘 될것입니다. Introduction이전 포스트에서 언급했듯 Transformer는 seq-to-seq model입니다.임의의 길이의 input sequence를 임의의 길이의 ou..

프롬프트 엔지니어링의 비밀 책에 대한 서평입니다.사실 개인적으로는 프롬프트 엔지니어링이 뭔지 왜 써야하는지를 정확하게 납득하지 않았던 입장이었습니다.그냥 프롬프트 내용을 필요한만큼 포함시켜서 ChatGPT에게 요청하면 딱 그대로 오는거 아닌가 싶었고, 이게 엔지니어링이라고 할 만큼의 난이도 있는 작업인지 진짜로 필요한 업무의 종류인지 그런 것들이 궁금했습니다. 주요 내용주요 내용은 각 상황에서 어떤 프롬프트를 사용해야 하는지 어떤 내용을 포함해야하는 지를 설명하고 있습니다.실제 프롬프트 예시를 통해서 LLM의 대답을 잘 이끌어내는게 목표라고 볼 수 있겠습니다.왜 프롬프트를 잘 써야하는지, 어떤 방식으로 잘 써야하는지를 알려 주는 것이 주요 내용이었습니다. 좋았던 점개인적으로 좋았던 점은 왜 프롬프트를 잘..