본 레포지토리는 스트리머의 개인정보에 대한 답변을 대신 해주는 챗봇을 만드는 프로젝트입니다.
인터넷 개인 방송은 스트리머와 시청자가 실시간 쌍방향 소통하는 플랫폼입니다. 실시간 쌍방향 소통은 기존 방송 시스템과 차별화 되는 인터넷 방송만의 특징으로 이러한 점으로 인해 여러 장단이 생기게 됩니다.
본 프로젝트는 대표적인 실시간 쌍방향 소통의 문제점인 지속적이고 수준 낮은 질문으로 인한 방송 흐름 끊김 문제를 해결하는 것을 목표로 시작되었습니다.
위 질문은 스트리머 침착맨이 방송에서 받은 질문과 그에 대한 대답을 스크립트로 옮긴 내용입니다.
읿반적인 챗봇에 동일한 내용을 질문하면 아래 표의 좌측과 같이 통상적인 대답을 하거나 할루시네이션 증상으로 인해 이상한 답변을 생성합니다.
본 레포지토리는 특수하고 개인적인 내용을 반영한 챗봇을 만드는 것을 목표로 데이터 수집, 전처리, 튜닝 프로세스를 구축하였습니다.
| 튜닝 전 응답 | 튜닝 후 응답 |
|---|---|
 |
 |
- 환경 설정 using on poetry
본 레포지토리는 poetry를 이용하여 종속성 관리를 진행합니다.
poetry가 설치 안돼있는 분들은 설치해주시기 바랍니다.
# 필요 라이브러리 설치
poetry install
# 가상 환경 실행
poetry shell
- ChatGPT API 키 설정
export OPENAI_API_KEY=<YOUR_API_KEY>
- FAQ 작성
streamlit run src/ui/qa_setting.py
최대 10개의 질문까지 설정 가능하며, 작성 후 하단의 '저장하기' 버튼을 누르면 txt 파일 형태로 저장됩니다.
- 스트리머 정보 구축
python src/preprocessing/construct_db.py
위 코드를 실행하면 스트리머의 정보를 담은 vectore DB가 생성됩니다.
- 채팅 화면 접속
chainlit run main.py
- 실행 종료
control + c (in terminal)
ERROR: [Errno 48] error while attempting to bind on address ('0.0.0.0', 8000): address already in use
- 원인: chainlit 접속에 필요한 8000번 포트를 이미 사용 중인 경우 발생하는 에러
- 8000 포트를 사용중인 프로세스 확인
sudo lsof -i:8000
- 프로세스 죽이기
kill $PID
kill -9 $PID //to forcefully kill the port
- 환경 설정 using on poetry
본 레포지토리는 poetry를 이용하여 종속성 관리를 진행합니다.
poetry가 설치 안돼있는 분들은 설치해주시기 바랍니다.
# 필요 라이브러리 설치
poetry install
# 가상 환경 실행
poetry shell
- ChatGPT API 키 설정
export OPENAI_API_KEY=<YOUR_API_KEY>
- 도커 이미지 생성
docker build -t persona_chatbot .
- 웹서버 컨테이너 실행
docker run -d -p 80:80 persona_chatbot
- 채팅 GUI 추가
- requirements 추가
- 커스텀 데이터 입력 GUI 화면 추가
-
나무위키 데이터 자동 학습 기능 구현@3월 27일 논의 결과 1차 drop - 추론 속도 개선 -> QnA 답변 사전 생성
- 생성 질답 검증 기능 추가
- 데이터 증강 기능 추가(프롬프트 엔지니어링)
- 답변 말투 변경
- 스트리머 개인 정보 입력 페이지 추가
-
학습용 데이터 DB화 - 추론용 API 서버 구축