๐ [1] ๊ธฐ๋ณธ ์ ๋ณด
โ๏ธ ๋ต๋ณ:
- RAG ์์คํ
ํด๋ฆฌ์คํฑ ๊ฒ์ฆ ์ํ (Similarity / Hybrid ๊ธฐ๋ฐ ํ
์คํธ)
- ๊ณ ์ ์ง๋ฌธ ์ธํธ(q75 ~ q99_f)๋ฅผ ํ์ฉํ์ฌ Retrieval ์ฑ๋ฅ ๋น๊ต ์คํ ์งํ
- [์คํ 1] Hybrid ๊ฒ์ ๋ฐฉ์ ๊ฒ์ฆ
โ ์ผ๋ถ ๋ฌธ์ ๊ฒ์ ์ฑ๊ณตํ์์ผ๋, ์๋ชป๋ ๋ฌธ์ ์ฐธ์กฐ ๋ฐ ์ง๋ฌธ ์๋ ๋ถ์ผ์น ๋ฌธ์ ํ์ธ
- [์คํ 2] ์ฒญํฌ ํฌ๊ธฐ ํ์ฅ (chunk size ์ฆ๊ฐ)
โ ๊ฒ์ ๋ฌธ์ 0๊ฑด ๋ฐ์, Retrieval ์คํจ ํ์ธ
โ ์ฒญํฌ ์ฆ๊ฐ ์ ํค์๋ ๋งค์นญ ์ฝํ ๋ฐ ๊ฒ์ ์ฑ๋ฅ ์ ํ ํ์ ๋ถ์
- [์คํ 3] Similarity + chunk 800 ์ค์ ๊ฒ์ฆ
โ ์ผ๋ถ ๊ฒ์ ์ฑ๊ณต (1~3๊ฐ)
โ ๊ทธ๋ฌ๋ ์ ๋ต๋ฅ ๋ฎ๊ณ ์๋ชป๋ ์ฐธ๊ณ (ํ๊ฐ) ๋ค์ ๋ฐ์
- ์คํ ๊ฒฐ๊ณผ๋ฅผ ํ ํ์์ผ๋ก ์ ๋ฆฌํ์ฌ ์ฑ๋ฅ ๋น๊ต ์ํ
(์ ๋ต ์ ์, ํ๊ฐ ์ฌ๋ถ, ๊ทผ๊ฑฐ ์ ํฉ์ฑ ๊ธฐ์ค)
- ๋ค์ค ์ฒญํฌ ์คํ์ ์ํ ์ธ๋ฑ์ฑ ๊ตฌ์กฐ ๊ฐ์
โ chunk size (600, 800, 1000, 1200)๋ณ ์ปฌ๋ ์
๋ถ๋ฆฌ ๋ฐฉ์ ์ค๊ณ
- parquet ๊ธฐ๋ฐ ์ธ๋ฑ์ฑ ์ค์ ๋ฐ ๋ฃจํ ๊ตฌ์กฐ ์ ์ฉ ๋ฐฉ๋ฒ ์ ๋ฆฌ
- ์ฒญํฌ ํฌ๊ธฐ ์ฆ๊ฐ ์ Retrieval ์ฑ๋ฅ ๊ธ๊ฒฉํ ์ ํ๋๋ ๋ฌธ์ ํ์ธ
- ์ง๋ฌธ-๋ฌธ์ ๊ฐ ํค์๋ ๋ถ์ผ์น๋ก ์ธํ ๊ฒ์ ์คํจ ๋ค์ ๋ฐ์
- ์ผ๋ถ ์ผ์ด์ค์์ ์๋ชป๋ ๋ฌธ์๋ฅผ ๊ทผ๊ฑฐ๋ก ์ฌ์ฉํ๋ Hallucination ๋ฐ์
- Hybrid ๋ฐ Similarity ๋ฐฉ์ ๋ชจ๋์์ ์ ํํ ๋ฌธ์ ๋งค์นญ ๋ถ์กฑ