데모 개요

• 코인원 거래소 이용자들은 코인원 서비스 이용시 문의사항이 있을 경우 코인원 고객센터를 통해 문의사항을 해결합니다. 다만 코인원 고객센터가 고객 문의에 대한 응답을 단순한 키워드 방식의 검색을 통해 관련된 자료를 제공하고 있어 고객이 문의사항을 빠르게 해결하기 어려운 구조입니다. 코인원 고객센터에 생성형 AI 기반으로 고객 문의 데이터로 RAG를 구성하고 고객의 문의를 빠르고 자동으로 응답 할 수 있는 고객센터 구성을 제안합니다.
• 챗봇 URL : http://54.198.198.205:9090/
• RAG에 사용한 데이터 : https://support.coinone.co.kr/support/solutions/31000042070

데모 아키텍처

1. Bedrock Knowledge Base를 활용하여 코인원의 고객센터 사이트를 크롤링합니다. 크롤링한 데이터를 Chunking 및 Embedding 하여 OpenSearch Index에 저장합니다.
2. Amazon EC2에서 Streamlit 기반으로 챗봇을 구현합니다. 사용자의 질의 응답을 받습니다.
3. 사용자의 질의 중 부적절한 내용(Input) 또는 LLM이 생성한 결과(Output)을 Bedrock Guardrail을 적용하여 필터링합니다. 여기서는 한국의 욕설 일부를 포함했습니다.
4. OpenSearch에서 사용자 질문에 유사한 문서를 Hybrid 서치 기반으로 찾습니다. 해당 문서를 Prompt에 추가하여 Bedrock을 통해 답변을 생성합니다.

AS-IS vs To-Be 비교

비교 1. 최대 출금 한도는 어떻게 되나요?

(AS-IS) 현재 시스템은 관련된 응답을 제공하지 못합니다.

(To-Be) 관련된 정보와 문서의 출처를 함께 제공합니다.

비교 2. 비밀번호를 분실했는데 어떻게 하나요?

(AS-IS) 현재 시스템은 관련된 응답을 제공하지 못합니다.

(To-Be) 관련된 정보와 문서의 출처를 함께 제공합니다.