RAG

<p>RAG là kỹ thuật ghép hai bước: trước khi mô hình trả lời, hệ thống đi tìm những đoạn tài liệu liên quan nhất trong kho dữ liệu của bạn, rồi đưa các đoạn đó vào cùng câu hỏi. Mô hình trả lời dựa trên tài liệu được cung cấp thay vì dựa vào trí nhớ huấn luyện.</p>

<p>Mô hình ngôn ngữ không biết về quy trình nội bộ, bảng giá, chính sách bảo hành hay tài liệu riêng của doanh nghiệp bạn. RAG là cách rẻ và nhanh nhất để nó biết, mà không cần huấn luyện lại mô hình. Nó cũng cho phép trích dẫn nguồn, nên câu trả lời kiểm chứng được.</p>

<p>Tài liệu được cắt thành đoạn nhỏ, mỗi đoạn được chuyển thành một vector số biểu diễn ý nghĩa và lưu trong cơ sở dữ liệu vector. Khi có câu hỏi, câu hỏi cũng được chuyển thành vector, hệ thống tìm các đoạn gần nghĩa nhất và đưa vào ngữ cảnh. Chất lượng RAG phụ thuộc gần như hoàn toàn vào chất lượng và cách cắt tài liệu.</p>

<p>Trước khi làm RAG, dọn tài liệu. Tài liệu lộn xộn, trùng lặp, nhiều phiên bản cũ mới lẫn nhau sẽ cho ra câu trả lời lộn xộn. Công sức thật của một dự án RAG nằm ở khâu chuẩn hóa dữ liệu, không nằm ở khâu kỹ thuật.</p>