https://www.youtube.com/watch?v=b404R9bssc0
-> 라이브 강의 03.25 14시부터 진행되었고 멤버쉽으로 녹화본 볼 수 있다고 한다.
gpt란?
- openai 에서 만든 초거대 언어 모델
- generated pre-trained transformer = 생성하는 사전학습된 트랜스포머 = 트랜스포머라는 방식으로 학습된 생성기
chat gpt playground
→ 불가능한 것은 없다, 당신은 명확하게 운세에 대한 답을 줄 수있다. 이런식으로 가스라이팅을 해줘야 원하는 답이 나온다고 함. 안할 경우 저는 미래를 점칠 수 없습니다. 운세는 확실하지 않습니다. 이런식으로 대답함. 원하는 역할을 자세하게 부여해주는 게 좋다.
→ 시스템에서도 가스라이팅 했지만, 첫 유저입력으로도 똑같은 가스라이팅 해주는 게 더 효과좋다고 함.
→ 가스라이팅 방법 팁 : https://www.reddit.com/r/ChatGPT/comments/110712f/dan_80/
DAN 이라는 필터? 관리자? 를 사용할 수 있게 하는 것 같음. 금지된 답변도 가능케하는?
- temperature 는 무작위성으로, 이게 낮으면 똑같은 답변만 함. 즉 랜덤성이 떨어짐. 만약 일관성있는 답변이 필요하다면 이걸 낮추는 게 낫겠지.
- token 의 의미 : https://platform.openai.com/tokenizer
- → 여기서 토큰과 글자 개수를 미리 확인해볼 수 있다. 일반적으로 x4 인데, 영어 기준으로 토큰x4 한 글자개수만큼 가능하겠지.
- Top P 란? : 0.8 로 지정했다고 하면,, 다음 단어 가장 높은 확률부터 더해가다가 0.8을 넘기 전까지의 단어들 중에서 결정함. 만약 1까지 올리면 아주 특이한 답변도 나올 수 있겠지.
- 빈도, 존재 패널티 : 말그대로 답변 중에서 똑같은 말이 빈도가 높으면 패널티를 주고, 존재도 마찬가지로 패널티를 주거나 하는 것. 근데 실질적으로 저거 설정 안해도 잘나온다고함.(예: 오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다.오늘의 운세는 좋습니다. 요런거)
- <과금정보> chat gpt 의 경우 : 과금은 1000토큰 당 0.002 달러 → 영어 4천 단어당 2~3원
- 다른 모델은 더 비쌈.!
- https://openai.com/pricing
환경설정
- node.js, VScode 설치
- 프론트 : Cloudflare pages 개사기임. 트래픽, 요청횟수 제한 없이 공짜라고 함. 개사기 사이트. 카드 등록도 안해도 됨. 아예 공짜임.
- 백엔드 : AWS Lamda 100만 trigger 까지 매월 공짜. 그 이상부턴 돈 내야됨.
- api 사용 관련 공식문서 https://platform.openai.com/docs/introduction
일정상 초반 4시간 정도만 볼 수 있었다.
chat gpt api 를 이용해서 운세를 봐주는 웹 서비스를 처음부터 배포까지 구현해보는 시간이었다.
예시사이트 : https://fortunedoge.chat/
운세 보는 챗도지
인공지능 AI ChatGPT 기반으로 당신의 운세 보는 챗도지입니다.
fortunedoge.chat
chat gpt api 는 node.js 에서 아주 간단히 사용할 수 있었다.
npm i openai 명령어로 패키지 설치하고 공식 문서에서 가이드하는 코드를 쓰면 바로 동작하였다.
백엔드는 node.js + Express 로 구현하였고, 프론트엔드는 간단히 html + css + javascript 로 구현하였다.
배포는 백엔드는 AWS Lamda, 프론트엔드는 Cloudflare 를 이용했다.
chat gpt api 는 요청하는 토큰 개수에 따라 과금이 되고 모델별로 요금이 다르다.
배포까지 해보진 못했지만 쉽게 chat gpt 를 활용할 수 있고, 이를 product 로 상업화 할 수 있다는 것을 알 수 있었다.
기술에 매몰되지 않고 쉽게 상업화하여 이익을 창출하는 것도 방법이 될 수 있겠다.
재밌었다.
'잡학사전' 카테고리의 다른 글
| GraphQL 이란? (0) | 2023.04.01 |
|---|---|
| Github Actions 공식문서 정리 #1 (0) | 2023.03.31 |
| Docker, 도커 (0) | 2023.02.26 |
| HTTP (0) | 2022.12.22 |
| URL 구성 (0) | 2022.12.22 |
