Nội dung bài viết
Một trợ lý AI có thể viết trôi chảy nhưng không biết quy trình nội bộ hoặc phiên bản tài liệu bạn vừa cập nhật. RAG, viết tắt của retrieval augmented generation, là cách kết hợp tìm kiếm thông tin với tạo câu trả lời. Thay vì chỉ dựa vào những gì mô hình đã học trong quá trình huấn luyện, hệ thống lấy các đoạn liên quan từ kho dữ liệu để bổ sung ngữ cảnh. Hiểu RAG là gì giúp bạn đặt kỳ vọng đúng khi xây công cụ hỏi đáp cho công việc.
Tìm tài liệu trước rồi mới soạn câu trả lời
Một quy trình RAG thường nhận câu hỏi, tìm các đoạn có vẻ liên quan rồi đưa chúng cùng yêu cầu vào mô hình ngôn ngữ. Hệ thống không tự có quyền truy cập mọi dữ liệu chỉ vì được gọi là một trợ lý thông minh.
Chất lượng kho tài liệu quyết định nhiều điều
Nếu tài liệu chứa hướng dẫn cũ, bản sao mâu thuẫn hoặc ảnh quét không được nhận dạng tốt, câu trả lời có thể phản ánh những vấn đề đó. Với nội dung bị chia thành đoạn, cần giữ đủ bối cảnh để tránh tách điều kiện khỏi kết luận. Một đoạn nói “chỉ áp dụng cho tài khoản thử nghiệm” không nên bị tách khỏi danh sách thao tác mà nó giới hạn.
RAG không giống huấn luyện lại mô hình
Bổ sung kho dữ liệu để truy xuất thường không đồng nghĩa thay đổi trọng số của mô hình. Điều này có thể thuận tiện khi tài liệu thay đổi thường xuyên, nhưng không bảo đảm hệ thống luôn chọn đúng bản mới nhất. Cần thiết kế quy tắc ưu tiên và xử lý ngày hiệu lực. Huấn luyện tinh chỉnh phục vụ những mục tiêu khác và cũng không tự giải quyết việc cập nhật dữ kiện. Trước khi chọn kỹ thuật, xác định vấn đề là thiếu thông tin, sai định dạng hay hành vi trả lời không phù hợp.
Nguồn dẫn cần chỉ đúng điều được khẳng định
Một câu trả lời có nhiều liên kết vẫn có thể dẫn tài liệu không thực sự hỗ trợ nội dung. Thử bấm nguồn, tìm đoạn tương ứng và kiểm tra câu hỏi có bị suy diễn quá phạm vi không. Hệ thống nên cho biết khi chưa tìm thấy đủ thông tin, thay vì ghép những đoạn gần giống thành lời khẳng định chắc chắn. Quyền xem tài liệu cũng cần được áp dụng ở bước truy xuất để một câu hỏi không làm lộ nội dung mà người hỏi vốn không được phép đọc.
Đánh giá bằng những câu hỏi có đáp án kiểm tra được
Tạo bộ câu hỏi từ công việc thật, gồm cả trường hợp câu trả lời nằm trong nhiều tài liệu, có phiên bản cũ hoặc hoàn toàn không có trong kho. Ghi hệ thống tìm được đoạn nào, trả lời ra sao và từ chối khi nào. Người phụ trách cần xem cả lỗi truy xuất lẫn lỗi diễn giải, không chỉ chấm câu văn có tự nhiên không.
Nguồn tham khảo: Tài liệu gốc và hướng dẫn chuyên môn. Tinh Hoa Số biên soạn; ảnh dùng để minh họa.
Khám phá thêm tại Trí Tuệ Nhân Tạo (AI).
Đọc tiếp: AI trên thiết bị và AI đám mây khác nhau ở điểm nào? · Viết prompt AI hiệu quả: Bắt đầu từ mục tiêu và dữ liệu.
