chat memory 사용 + 실험 내용입니다

[tjddn0402]

• 실험한 내용 pdf 로 뽑아봤습니다.
  Korea Law Help.pdf

• gpt를 이용하면서 이전 내용까지 요약 + 새로운 대화 (query + answer) 주고 요약을 시켰는데, ai의 새로운 답변이 길게 나오는게 원인인지 모르겠지만 직전내용만 요약해주고 이전 대화 내용까지 포함해서 요약해주진 않음.

• 따라서 직전에 질문한 내용을 바탕으로 질문을 더 이해하고 답변 해 줄 수는 있겠지만, 여러 턴 동안 같은 주제에 대해 질문하면 답이 어색할 수 있을 것이라고 예상.

• 또한, 대화 주제를 바꾸니까 갑자기 pydantic output parser(출력 내용을 json으로 뽑아올 수 있게 prompting 해주는 langchain class) 가 잘 작동하지 않았음. 항상 json 형태로 잘 출력해주지 않을 수도 있으니까, 이에 대비해서 JSONDecodeError를 예외처리 해줘야 할 것 같음.

[tjddn0402]

parsing 실패 사례

• PydanticOutputParser has high chance failing when completion contains new line langchain-ai/langchain#3709