Context engineering nổi lên khi các ứng dụng AI chuyển từ chatbot một lượt sang agent nhiều bước. Thuật ngữ được Andrej Karpathy và nhiều người phổ biến năm 2025, mô tả nó là nghệ thuật và khoa học lấp đầy context window của mô hình bằng đúng thông tin cho bước tiếp theo. Nó phản ánh một sự thật đơn giản: những gì mô hình nhìn thấy quyết định những gì nó làm được.
Nó khác prompt engineering thế nào?
Prompt engineering hỏi làm sao diễn đạt một yêu cầu đơn lẻ. Context engineering hỏi ngay lúc này mô hình cần tiếp cận thông tin gì, xuyên suốt cả một tác vụ. Prompt engineering là một phần của nó, tập trung ở lớp chỉ dẫn, còn context engineering quản lý toàn bộ hệ thống nuôi thông tin cho mô hình: system prompt, lịch sử hội thoại, dữ liệu truy xuất, bộ nhớ và kết quả công cụ.
Vì sao nó quan trọng?
Context window lớn hơn không giải quyết trọn vẹn vấn đề, vì độ chính xác của mô hình có xu hướng suy giảm khi đầu vào dài ra, hiện tượng được bàn trong hướng dẫn của Anthropic về context engineering. Mục tiêu không phải đưa cho mô hình mọi thứ, mà là tập thông tin tín hiệu cao nhỏ nhất dẫn tới kết quả tốt. Quá nhiều ngữ cảnh có thể làm mô hình phân tán hoặc nhiễu, dễ như quá ít có thể bỏ đói nó.
Các chiến lược cốt lõi là gì?
- Write: lưu thông tin ra ngoài context window, như ghi chú hay bộ nhớ, để tái sử dụng.
- Select: chỉ kéo lại thông tin liên quan, thường qua truy xuất như RAG.
- Compress: chỉ giữ những token tác vụ cần, ví dụ bằng cách tóm tắt lịch sử dài.
- Isolate: chia việc thành các bước hoặc sub-agent tập trung, mỗi phần có ngữ cảnh sạch và liên quan.
Những ý này cũng áp dụng cho nội dung. Cùng một cấu trúc giúp một đoạn dễ được mô hình dùng, một câu trả lời nêu ngay đầu trong một mục khép kín, chính là thứ mà GEO và AEO tưởng thưởng.
Câu hỏi thường gặp
Context engineering là gì?+
Context engineering là nghệ thuật cho một mô hình AI đúng tập thông tin ở từng bước của tác vụ, không chỉ một prompt đơn lẻ. Nó quản lý toàn bộ môi trường thông tin quanh mô hình, gồm chỉ dẫn, dữ liệu truy xuất, bộ nhớ và công cụ.
Context engineering khác prompt engineering thế nào?+
Prompt engineering tập trung vào cách bạn diễn đạt một yêu cầu. Context engineering quản lý mọi thông tin mô hình nhìn thấy xuyên một tác vụ nhiều bước. Prompt engineering là một phần của context engineering, vốn là bộ môn rộng hơn.
Vì sao context engineering quan trọng?+
Độ chính xác của mô hình có thể suy giảm khi đầu vào dài ra, nên đưa cho mô hình mọi thứ không phải là lời giải. Context engineering nhắm tới tập thông tin tín hiệu cao nhỏ nhất cho ra kết quả tốt, giúp hệ thống AI đáng tin cậy hơn.