AI Hallucination

Hallucination là một giới hạn cốt lõi trong cách các mô hình ngôn ngữ hoạt động. Vì một model tạo văn bản bằng cách dự đoán phần tiếp theo có khả năng cao nhất chứ không phải tra cứu dữ kiện, nó có thể tạo ra những phát biểu trôi chảy, tự tin nhưng đơn giản là sai, gồm cả số liệu bịa, trích dẫn giả và tính năng sản phẩm không tồn tại.

Vì sao các model AI hallucinate?

Một model ngôn ngữ được huấn luyện để tạo văn bản hợp lý, không phải văn bản đã được kiểm chứng. Khi thiếu thông tin đúng, nó không dừng lại; nó lấp khoảng trống bằng những từ có khả năng thống kê cao nhất, vốn có thể trông đầy thẩm quyền dù sai. Hallucination dễ xảy ra hơn khi một câu hỏi nằm ngoài dữ liệu huấn luyện của model, khi một prompt mập mờ, hoặc khi model bị đẩy phải trả lời điều nó không có căn cứ.

Vì sao hallucination quan trọng với thương hiệu?

Khi người mua ngày càng hỏi các hệ thống AI về sản phẩm và nhà cung cấp, một hallucination có thể trình bày sai một thương hiệu: bịa ra một tính năng nó không có, nêu giá sai, hoặc gán điểm yếu của đối thủ cho nó. Khác với một review xấu, thường không có nguồn nào nhìn thấy được để đính chính, và khẳng định sai có thể được lặp lại một cách tự tin cho nhiều người dùng. Điều này khiến nội dung chính xác, có nguồn tốt và mô tả thương hiệu nhất quán trở thành một ưu tiên phòng thủ, không chỉ là chuyện tăng trưởng.

Làm sao giảm hallucination?

• Neo bằng truy xuất: các kỹ thuật như RAG cho model chất liệu nguồn thật để trả lời, thay vì dựa vào trí nhớ.
• Nội dung rõ ràng, uy tín: thông tin không mập mờ, cấu trúc tốt và được đối chiếu nhất quán thì ít bị đọc sai hoặc bịa ra.
• Nguồn kiểm chứng được: dữ kiện gắn với nguồn có tên cho hệ thống thứ để neo và cho người dùng thứ để kiểm tra.
• Rà soát của con người: với mọi mục đích xuất bản hay hướng tới khách hàng, một người nên kiểm chứng khẳng định trước khi phát hành.

Không cách nào loại bỏ hoàn toàn hallucination, vốn là rủi ro cố hữu của các hệ thống sinh nội dung. Chúng giảm tần suất và tác động của nó, đó mới là mục tiêu thực tế.

Có phát hiện được hallucination không?

Không phải lúc nào cũng phát hiện được chỉ từ văn bản, vì hallucination được tạo ra để nghe hợp lý. Cách kiểm tra đáng tin là đối chiếu với một nguồn đáng tin cậy. Trích dẫn bịa là một dấu hiệu thường gặp: một tham chiếu tự tin tới một nghiên cứu hoặc trang không tồn tại, hoặc nói khác với điều model đã khẳng định, là tín hiệu mạnh cho thấy nội dung xung quanh không đáng tin.