Vì sao AI “thông minh” mà vẫn trả lời ngu ngơ?

[Nguyễn Hoàng]

Bạn nghĩ làm chủ AI là biết viết prompt hay biết cách đưa ngữ cảnh cho AI hiểu? Context Engineering: Kỹ năng mới đang thay thế Prompt Engineering trong kỷ nguyên AI.

Thời của “prompt thần thánh” đang dần lùi lại phía sau. Một khái niệm mới, thực tế hơn và mạnh mẽ hơn đang dần nổi lên trong cộng đồng AI: Context Engineering, tạm hiểu là “kỹ nghệ thiết kế ngữ cảnh cho AI”. Đây không còn là chuyện viết một câu lệnh hay, mà là cả một hệ thống giúp AI hiểu và làm đúng việc.

Vì sao ngữ cảnh quan trọng hơn prompt?​

Tobi Lutke, CEO của Shopify, mô tả Context Engineering là “nghệ thuật cung cấp đầy đủ ngữ cảnh để một nhiệm vụ có thể được AI xử lý một cách hợp lý.” Nghe có vẻ đơn giản, nhưng đây chính là khác biệt giữa một con chatbot lơ ngơ và một trợ lý ảo khiến bạn trầm trồ.

Khi làm việc với các AI Agent (tác nhân AI tự động), điểm quyết định việc thành hay bại không còn nằm ở mô hình AI nữa, mà nằm ở chất lượng của ngữ cảnh mà bạn đưa vào. Đa số thất bại không phải vì AI “ngu” mà vì con người cho nó ăn rác ngữ cảnh.

Thế nào là ngữ cảnh trong AI?​

Ngữ cảnh không chỉ là câu hỏi bạn gửi vào. Nó là mọi thứ mà mô hình nhìn thấy trước khi nó trả lời:

• System Prompt: Bộ hướng dẫn đầu vào để định hình cách AI hành xử, có thể bao gồm quy tắc, ví dụ cụ thể.
• User Prompt: Câu hỏi hay yêu cầu cụ thể từ người dùng.
• Lịch sử trò chuyện: Những gì đã diễn ra trước đó trong cuộc đối thoại hiện tại.
• Trí nhớ dài hạn: Thông tin AI từng được dạy, như sở thích người dùng, dữ kiện từ các cuộc trò chuyện trước.
• Thông tin truy xuất (RAG): Dữ liệu được gọi ra từ tài liệu, API hay nguồn tri thức bên ngoài.
• Công cụ có sẵn: Tất cả các chức năng mà AI có thể gọi như “gửi email”, “kiểm tra lịch”, v.v.
• Định dạng đầu ra: Ví dụ, bạn yêu cầu AI trả lời bằng JSON hay bảng biểu thì nó cũng là một phần ngữ cảnh.

Từ bản demo rẻ tiền đến sản phẩm “ma thuật”​

Ví dụ bạn nhờ AI đặt lịch họp sau khi nhận được email kiểu:
“Hey, mai rảnh không, họp nhanh cái nhé?”

• Nếu là một AI rẻ tiền, nó chỉ thấy email, không biết gì thêm:
  “Cảm ơn bạn đã nhắn. Ngày mai ổn với tôi. Bạn muốn mấy giờ?”
  Nghe cứng nhắc, robot và chẳng giúp gì nhiều.
• Còn nếu là một AI “ma thuật”? Nó sẽ được nạp thêm các ngữ cảnh như:
  • Lịch cá nhân của bạn (đã kín cả ngày mai)
  • Email cũ với người gửi (thân thiết, có thể dùng giọng văn thoải mái)
  • Danh bạ (người gửi là đối tác quan trọng)
  • Công cụ có thể tự gửi lịch hẹn

Khi đó AI có thể trả lời:
“Hey Jim! Mai mình kín lịch rồi, nhưng sáng thứ Năm trống. Mình gửi lời mời nhé, bạn xem có ổn không?”

Tức là, AI vẫn dùng mô hình cũ, đoạn mã giống hệt, nhưng vì được “ăn” dữ liệu đúng, đủ, nên nó thông minh hẳn.

Context Engineering không phải viết string, mà là xây hệ thống​

Khác với Prompt Engineering, chỉ là nghệ thuật viết một câu lệnh ngắn gọn, đúng ý, thì Context Engineering là việc thiết kế cả một hệ thống để đảm bảo AI luôn có đầy đủ dữ kiện, công cụ, định dạng phù hợp trong từng tình huống.

​

Nó mang tính động, mỗi tình huống cần một kiểu dữ liệu riêng. Hôm nay cần email, mai cần lịch, mốt cần gọi API.

Nó yêu cầu bạn hiểu rõ:

• Nhiệm vụ là gì?
• Thông tin nào là cần thiết để AI làm tốt việc đó?
• Thứ tự, cách trình bày dữ kiện nào là hiệu quả nhất?

Chỉ cần cho thiếu một mảnh, AI có thể làm sai hoàn toàn. Cho thừa, nó rối loạn. Đó chính là nghệ thuật của Context Engineering.

Muốn xây AI Agent thật sự hữu dụng, bạn không chỉ cần code hay prompt giỏi, mà cần biết nấu cơm cho AI ăn đúng bữa, đúng món.

Context Engineering không phải là kỹ năng mới dành cho developer, mà là tư duy hệ thống mà bất kỳ ai làm việc với AI đều nên học. Nó là sự kết hợp giữa hiểu nghiệp vụ, hiểu người dùng, hiểu công cụ, để cho AI tất cả những gì nó cần, vào đúng thời điểm. (philschmid.de)