Retrieval-augmented generation được giới thiệu trong một bài nghiên cứu năm 2020 của Lewis và cộng sự tại Facebook AI Research. Kể từ đó nó trở thành mô hình chuẩn để xây các hệ thống AI cần trả lời từ một kho tri thức cụ thể, cập nhật hoặc riêng tư.
RAG hoạt động thế nào?
Một hệ thống RAG chạy qua hai bước. Đầu tiên là truy xuất: khi một câu hỏi đến, hệ thống tìm trong một nguồn tri thức, chẳng hạn một tập tài liệu, một database hay một website, và kéo về những đoạn văn liên quan nhất tới câu hỏi. Thứ hai là sinh nội dung: những đoạn văn đó được đưa cho mô hình ngôn ngữ cùng với câu hỏi, và model viết một câu trả lời neo vào văn bản đã truy xuất thay vì chỉ dựa vào trí nhớ.
Bước truy xuất thường dựa vào embedding, biểu diễn văn bản dưới dạng vector để hệ thống tìm đoạn văn theo nghĩa chứ không phải khớp từ khóa chính xác. Những đoạn văn liên quan nhất được đưa vào context của model trước khi nó tạo câu trả lời.
Vì sao RAG quan trọng với marketer?
Hai lý do. Thứ nhất, RAG là cách nhiều answer engine và trợ lý chat giữ được sự cập nhật: chúng truy xuất nội dung trực tiếp tại thời điểm truy vấn, đó là lý do nội dung web được cấu trúc tốt, uy tín có thể được kéo vào câu trả lời ngay cả khi nó được xuất bản sau khi model được huấn luyện. Thứ hai, RAG là cách doanh nghiệp xây các trợ lý trả lời chính xác từ chính documentation, dữ liệu sản phẩm hay nội dung hỗ trợ của họ mà không cần huấn luyện lại model.
RAG có loại bỏ hallucination không?
Nó giảm hallucination nhưng không loại bỏ. Bằng cách neo câu trả lời vào các nguồn đã truy xuất, RAG cho model chất liệu thật để làm việc thay vì bịa chi tiết. Tuy nhiên model vẫn có thể đọc sai một đoạn văn, kết hợp các nguồn sai, hoặc tạo văn bản tự tin khi bước truy xuất không trả về gì liên quan. Chất lượng phụ thuộc nhiều vào việc bước truy xuất có đưa ra đúng tài liệu ngay từ đầu hay không.
Điều gì khiến nội dung thân thiện với RAG?
- Cấu trúc rõ: heading và đoạn văn khép kín để truy xuất sạch theo từng đơn vị.
- Cụ thể: dữ kiện, con số và định nghĩa cụ thể trả lời trực tiếp một câu hỏi.
- Mới: thông tin cập nhật, vì hệ thống truy xuất ưu tiên các nguồn mới.
- Tiếp cận được: nội dung crawl được và server render để có thể được index và truy xuất.
Câu hỏi thường gặp
RAG là viết tắt của gì?+
RAG là viết tắt của retrieval-augmented generation. Đây là kỹ thuật trong đó một model AI truy xuất thông tin bên ngoài liên quan và dùng nó để tạo câu trả lời được neo vào nguồn, thay vì chỉ dựa vào kiến thức từ huấn luyện.
RAG có ngăn AI hallucinate không?+
Nó giảm hallucination bằng cách neo câu trả lời vào các nguồn đã truy xuất, nhưng không loại bỏ. Model vẫn có thể đọc sai đoạn văn hoặc tạo văn bản tự tin khi truy xuất không trả về gì liên quan. Chất lượng phụ thuộc vào việc truy xuất đúng tài liệu.
Vì sao RAG quan trọng với SEO và nội dung?+
Nhiều answer engine dùng truy xuất để giữ cập nhật, nên nội dung được cấu trúc tốt, uy tín và mới có thể được kéo vào câu trả lời ngay cả sau thời điểm huấn luyện của model. Nội dung cụ thể, cấu trúc rõ và crawl được thì dễ truy xuất hơn.