안녕하세요. 에디터 가을여행입니다.
지난 시간에 이어서 프롬프트 엔지니어링2를 연재해 봅니다. 바로 강의노트를 올렸어야 했는데 하루에 글 하나 작성하기가 생각보다 쉽지가 않은 것 같습니다. 사설은 요까지 하고 강의노트2를 시작합니다.
오늘의 강의 주제
- 주요 파라미터
- 프롬프트 엔지니어 마스터 하기
프롬프트와 출력에 영향을 미치는 중요한 매개 변수가 있으며 우리는 프롬프트 엔지니어로서 이해해야 합니다. OpenAI Playground로 이동해서 Chatgpt의 여러 매개변수를 이해하고 제대로 활용할 수 있는 방법을 알아봅니다. 우측 프레임의 매개변수들을 확인해 주세요.
모델이 무엇인가요?
앞서 말씀드렸지만 우리는 자연어 처리과정을 통해 인공지능을 훈련시키게 되며 방대한 언어 모델(LLM)을 만들어가고 창조해 냅니다. 각 모델들은 어떤 제한이나 능력치를 가지게 됩니다. 최신 모델로는 Davinch-003이 존재합니다. 물론 Davinch는 최신 모델인 만큼 최고의 품질과 많은량의 토큰(4000개)을 한번에 생성해 낼 수 있습니다.
토큰이 무엇인가요?
NLP(자연어 처리) 모델은 프롬프트를 토큰화합니다. 즉, 각 토큰은 4개의 글자로 이루어진 단위입니다. Tokenizer를 열고 각 프롬프트를 입력하는 경우. 프롬프트에 토큰 수가 표시되고 미리 확인할 수 있습니다.
한번에 생성해낼 수 있는 토큰의 수가 정해져 있기 때문에 책과 같은 방대한 자료들에 대해서는 여러번에 나누어 요청하는 프롬프트가 요구될 것입니다.
파라미터 Temperature
ChatGPT를 열고 다음 메시지를 입력합니다:
당신은 NLP와 AI의 전문가이며, 6~8세 사이의 아이들에게 이러한 개념들을 가르친 경험이 10년 이상 있습니다. 제가 관련된 질문을 드릴 테니 제가 6살 아이인 것처럼 답변해 주세요. Temperature 파라미터가 어떤 의미인가요?
다음은 chatGPT의 답변입니다 :
온도는 생성된 텍스트의 무작위성과 창의성 수준을 제어하는 데 사용됩니다. 온도 파라미터가 낮을수록 창의성과 반복성이 떨어집니다. 이것이 항상 나쁘다는 뜻은 아닙니다. 프롬프트 엔지니어는 최상의 결과를 얻으려면 다른 값과 매개 변수를 사용하여 프로모션을 테스트하고 반복해야 합니다.
파라미터 Top-p
당신은 openAl과 NLP의 전문가이며, 당신의 임무는 몇 가지 용어를 간단한 방법으로 설명하는 것입니다. 저를 6살 아이라고 생각해주세요. 파라미터 Top-p에 대해서 설명해 주세요.
다음은 chatGPT의 답변입니다 :
Top-p는 상위 백분율을 나타냅니다
이 방법은 누적 확률이 가장 높은 단어 중에서 선택합니다. Top-p 는 가장 가능성이 높은 선택지만 보고 가장 좋은 단어를 선택합니다. 우리는 가장 옳을 가능성이 높은 것만을 바라 봅니다
프롬프트 엔지니어 마스터하기
오늘 배운 내용이 전문적인 엔지니어가 되기에 충분할까요? 물론 아닙니다. 이걸로는 충분하지 않습니다.이 기술은 프로그래밍과 같아서 연습해야 합니다. 다음엔 어떻게 해야 할까요?
먼저 더 많은 연구와 시험을 시작해야 합니다. 오늘 배운 것을 시험하고 적용하는 것부터 시작하세요
다음은 유용한 레퍼런스 들입니다.
이제 이 기술을 배우는 데 집중해야 합니다:
- 비판적 사고와 문제 해결. Python 스크립팅 및 NLP 모델과의 통합.
GPT를 파이썬 스크립트와 통합하여 충격적인 결과를 얻는 방법을 알아보겠습니다. - NLP 모델의 작동 방식에 대해 알아봅니다. 초보자를 위한 NLP 과정을 듣는 것은 매우 중요합니다
- 데이터 분석 및 시각화 기술이 필요하고 이 부분에 대해서는 다음에 따로 다루겠습니다.
댓글