step4

#1 안될과학 정리

1. 딥러닝 개념 설명

딥러닝은 인공지능을 만드는 방법론으로, 간단하게 말하면 컴퓨터에게 패턴을 찾게 하는 것.

레시피와 밀가루를 넣으면 빵을 주던 기존 방식에서 빵과 밀가루를 넣으면 레시피가 나온다는 비유가 재밌었다.

 

인공지능이 단어를 학습하는 원리를 듣고 있으니,

내가 외국어를 학습할 때도 어떤 단어를 암기할 때, 단어를 가려놓고 오히려 그 외 함께 쓰이는 단어들을 암기해보면 재밌을 것 같다는 생각을 했다.

 

2. chatgpt 개념 설명

언어 모델. 여기서 모델이란? 함수나 프로그램과 같은 의미로 사용된다.

딥러닝은 사실상 프로그램을 만들어낸다기보다는 패턴을 분석해서 '찾아낸 프로그램'에 가깝다는 말이 인상적이었음.

 

또한 언어 모델에서 창의성이란 임베딩 벡터를 통해 만들어질 수 있다는 관점 또한 흥미로웠다.

이는 우리가 흔히 생각하는 사람의 창의력 또한, 전혀 다른 분야에서 비슷한 벡터를 찾아내는 것을 언어로 표현한게 아니었을까 하는 생각이 들게 했다.

 

https://www.youtube.com/watch?v=UlNi1jFcSSA

 

또한 3편의 12분즈음에 나오는 비지도학습, 지도학습, 강화학습을 같이 병행하는 과정이 인상적이었음.

 

#2 LLM 성능을 높이는 프롬프트 엔지니어링 26가지 팁

https://www.youtube.com/watch?v=mC2b57u_s0k

 

0. 영어로 질문하기

 

1. 본론만 말하기

예의를 갖추거나, 인사 등의 추가적인 정보 없이 본론을 바로 말하기. 미사여구를 붙이지 않기.

: "~에 대해서 설명해"

 

 

2. 청중을 설정하기

의도한 청중을 설정하고 질문하기

: "스마트폰을 사용한 적 없는 시니어에게 스마트폰을 설명해"

 

3. 세분화

복잡한 작업을 간단한 프롬프트로 세분화한다.

: 예를 들어 긴 수식의 경우 이를 한번에 넣고 계산하라는 것이 아닌, 식의 순서에 맞게 내가 분리하고 단계별로 물어보면 훨씬 효과가 좋다는 것

"2+3*4" => "3*4", "2+12"

 

4. 긍정 지시문

~를 지워줘, ~를 하지마 등은 정보가 들어가서 오히려 좋지 않음.

 

5. 어린이 청자 설정

"어린아이에게 설명하듯이 설명해줘"

 

6. 팁 설정하기 (??)

: "더 나은 답변을 하면 ~달러 팁을 줄게"라고 말하면 더 잘 답변을 한다고 함.

 

7. 예시 설정하기 (예제 중심 프롬프트 구현)

example1) example2) 등 예시를 주고 구현을 시킴

 

8. 마크다운 문법 등으로 어떤 프롬프트인지 써주기

: ###Instruction### or ###Example###

 

9. Your task, 등으로 당신의 임무는, 당신은 반드시 ~ 해야한다 등으로 임무(목표)를 설정, 표현해주어야 함.

 

10. 협박하기

~일을 하지 못할 경우 벌점을 받게 됩니다. 라는 문장으로 해내지 못했을 때 불이익에 대해 이야기하기.

 

11. 인간적인 방식

"자연적스럽고 인간적인 방식으로 주어진 질문에 답하라"를 포함

"Answer a question given in a natural human-like manner"

 

12. (중요기법) 단계별로 생각해, 단계별로 묘사해 포함

: "think step by step"

 

13. 편견 제거

"당신의 대답이 편견이 없고 고정관념에 의존하는 것을 피하도록 하세요" 포함.

:"Ensure that your answer is unbiased and avoid relying on stereotypes"

 

14. (효과가 뛰어남!) 질문 시키기 - 나한테 질문하도록 하는 것

:From now on, ask me questions until you have enough information to create a personalized fitness routine

"지금부터 개인화된 피트니스 루틴을 만들 수 있는 충분한 정보가 생길 때까지 질문해"

 

15. 테스트 추가

A에 대한 주제를 질문한다면, "A를 알려주고, 마지막에 A에 대한 테스트를 포함한 답변을 한 후에 답변을 미리 제공하지 않고 답변이 정확한지 알려줘"

 = "~~ and include a test at the end, and let me know if my answers are correct after I respond, without providing the answers beforehand

 

16. 역할부여

네가 무엇이라면 다음 질문에 어떻게 답할거야?

 

17. 구분기호 사용 (' ') 같은거

 

18. 반복하기: 특정 단어를 반복하여 사용하면 정확하게 답변해준다고 함.

 

19. CoT (Chain of though)와 few shot prompts의 결합

CoT란? 단계를 나누어서 수행하는 것.

few-Shot이란? : 몇개의 예시를 넣는 것이다.

 

즉, 어려운 지문을 주어줄 때 1) 예시를 주면서 2) 그 예시에서 단계적으로 일을 수행하는 과정을 넣어주는 것

예시는 많은수록 좋다. (제미나이에서는 CoT를 32개 쓰고 성능 발표하고 그랬음)

 

20. 출력 문구를 지정한다 (출력 양식을 지정한다)

: "~의 원리에 대해 설명하시오. 설명: "

 

21. 필요한 모든 정보를 추가하여 (by adding all the information necessary)

 

22. 텍스트를 개선해달라고 요청하기

: "try to revise every text sent by users. You sould only improve the user's grammar and vocabulary and make sure it sounds natural. you should~"

사용자가 보낸 모든 텍스트를 개선해야합니다. 사용자의 문법과 어휘를 사용하고 자연스럽게 들리는지 확인합니다.~~

 

23. 출력 요구사항을 여러개의 파일로 요청하고 싶다면, 여러개 파일을 요청하는 게 아니라 여러 파일의 프로젝트를 만드는 스크립트를 요청할 것.

 

24. 제시어 기반 글. 특정 단어, 구 문장을 사용하여 텍스트를 생성

"판타지 이야기의 시작을 알려드리겠습니다. '안개가 자욱한 산은~~' "

이런 식으로 사용한다. 또 뒤에 "제공된 단어를 바탕으로 이야기를 완성하세요. 흐름을 일관되게 유지하세요." 등을 넣어준다.

 

25. 특정 키워드를 포함한 텍스트 생성을 요청

 

26. 동일한 언어를 사용해서 비슷한 느낌의 글 생성