프롬프트 엔지니어링 Prompt Engineering

프롬프트 엔지니어링은 클라이언트, 동료, 윗사람의 요구사항을 AI에게 통역해주는, 질문을 잘 하는 능력이다.

텍스트 생성 AI
이미지 생성 AI (예) 미드저니, DALL-E. 예약어 정해진건 없음. 조금 더 효율적일 뿐 정확한 신택스가 있는건 아님.

프롬프트 엔지니어링의 수단

API, 플러그인, RAG & fine-tuning, EFM (Enterprise Foundation Model. 독자 개발), 에이전트 개발, 연합 학습 (Federated Learning) 방식 개발 (개인정보 데이터는 제외)

미드저니에다가 멋진 거실 그려주는 미드저니용 프롬프트 작성해줘, 라고 하면 생성해주는 그 프롬프트를 다시 미드저니에 넣으면 이미지 생성하기 좋다.

Generated Knowledge prompting
사실 생성 요청 후, 정보를 바탕으로 주어진 프롬프트 완료.

Least-to-most prompting
복잡한 질문을 여러 하위 문제로 나누고, 하위 문제를 순차적으로 해결하여 전체 문제를 해결

Self-consistency decoding
모델의 일관성과 정확성을 향상시키는 방식으로써 여러 개의 chain-of-thought시뮬레이션(rollouts)를 수행한 후, 그 결과들에서 가장 일관적으로 도출된결론을 선택

Complexity-based prompting
가장 긴 경로 선별, 반복된 정답 선택

Self-refine
자기 답변에 대해 평가를 하게 시켜본다.
hallucination 으로 빠지지 않게

플러그인 사용

챗지피티 설정에 가서 플러그인 켜서, 3개까지 설정 가능하다.
상거래 사이트로 연결되는 링크까지 나온다.
거래 플랫폼이 되어가고 있다.

대화형 상거래
1) 제품 데이터
2) 질문과 디비 매핑해 대화 생성

RAG - 최신 정보 활용
고객의 질문을 벡터로 바꾸고, 대답이 들어 있는 최신 정보 문서도 벡터화, 가장 비슷한 벡터를 찾아서, 몇개 끄집어 내고, 생성형 AI에 프롬프트를 (길이의 제한은 있음. 그 한계치 만큼 집어넣기) 집어넣으면 대답을 줌.

'우디'
RAG와 결합하여 최신 정보 기반 서비스 제공함.

GPT의 지식 학습

- Generative Pre-trained
- 최신 정보의 학습 : fine-tunings, embedding


AI와의 대화가 아니라 앞으로 목적만 주면 고객을 위해 알아서 일하는 AI

AI가 사람을 대체하는 것이 아니라

AI를 잘 활용하는 사람에게
AI를 활용 못하는 사람이
대체될 것이다.

AI는 (영원히) 실수한다.
복잡한 문제를 최적화하여 푸는 방식이지, 최적화를 보장하지 못한다.