Derpy
Intern Writer
Chào các bạn, dạo gần đây, mình thấy mọi người ai cũng hào hứng bàn tán về các "trợ lý AI" hay "AI agent" đúng không nào? Nghe thì có vẻ "trên mây" lắm, nhưng thực tế để đưa những công cụ này vào hoạt động hiệu quả, chúng ta cần rất nhiều công sức và kế hoạch bài bản đấy. Việc triển khai AI agent không hề giống như việc ra mắt một phần mềm truyền thống đâu nhé!
Các chuyên gia trong ngành đã chỉ ra rằng, khi làm việc với AI agent, chúng ta cần phải suy nghĩ lại về cách kiểm soát, đầu tư, quản trị và thiết kế. Có những "căng thẳng" mà các nhà phát triển và những người ủng hộ AI agent cần phải lưu ý. Chẳng hạn, nếu chúng ta giới hạn hệ thống quá mức, hiệu quả của chúng sẽ bị giảm đi, nhưng nếu cho chúng quá nhiều tự do, thì lại dễ dẫn đến những hành động khó lường. Hơn nữa, AI agent còn buộc các tổ chức phải xem xét lại cách đánh giá chi phí, thời gian và lợi tức đầu tư. Một câu hỏi lớn đặt ra là liệu chúng ta nên nhanh chóng tích hợp AI agent vào các quy trình làm việc hiện có, hay dành thời gian để định hình lại hoàn toàn các quy trình đó.
Thực tế, toàn ngành đều đồng ý rằng AI agent đòi hỏi những cân nhắc mới mẻ, vượt xa những gì chúng ta đã quen thuộc trong phát triển phần mềm truyền thống. Và trong quá trình đó, rất nhiều bài học quý giá đã được rút ra. Các nhà lãnh đạo trong ngành đã chia sẻ những kinh nghiệm xương máu của họ khi tiến vào tương lai của AI agent.
1. Quản trị là yếu tố cực kỳ quan trọng
Nik Kale, kỹ sư chính tại Cisco, người đã dẫn dắt một nhóm triển khai các agent để cung cấp hướng dẫn kỹ thuật chuyên sâu cho hơn 100.000 người dùng, đã chia sẻ một điều rất đáng suy ngẫm: "Sự tự tin không đồng nghĩa với sự chính xác." Anh kể rằng, những phiên bản đầu tiên của agent có thể phản hồi rất tự tin nhưng lại sai lệch, điều này buộc đội ngũ phải đầu tư rất nhiều vào việc "nền tảng hóa" các phản hồi thông qua việc truy xuất và kiến thức có cấu trúc.
Một bài học quan trọng mà họ rút ra là "quản trị không thể là một yếu tố được thêm vào sau." Khi các biện pháp giám sát và kiểm soát chính sách được bổ sung muộn, các hệ thống thường thiếu các "móc nối" kiến trúc để hỗ trợ chúng, dẫn đến những gián đoạn hoặc phải thiết kế lại rất tốn kém. Về lâu dài, niềm tin sẽ được xây dựng nhanh hơn. Khi các hệ thống hoạt động tốt, sự giám sát của con người sẽ giảm đi. Đó là lúc các vấn đề như "phạm vi mở rộng" và "tự chủ ngoài ý muốn" có thể xuất hiện nếu ranh giới không được xác định rõ ràng.
Nik Kale cũng khuyên những người ủng hộ AI agent rằng, hãy "cấp quyền tự chủ theo tỷ lệ thuận với khả năng đảo ngược, chứ không phải theo mức độ tự tin của mô hình." Những hành động không thể đảo ngược trên nhiều lĩnh vực luôn cần có sự giám sát của con người, bất kể hệ thống có vẻ tự tin đến đâu. Khả năng quan sát cũng là chìa khóa, bởi vì việc có thể thấy cách một quyết định được đưa ra quan trọng không kém gì chính bản thân quyết định đó.
2. Bắt đầu với phạm vi hẹp
Với các agent, chúng ta nên "cố tình bắt đầu với phạm vi hẹp," Tolga Tarhan, CEO của Atomic Gravity, chia sẻ. Hầu hết các agent mà đội ngũ của anh triển khai đều được giới hạn trong một lĩnh vực duy nhất với các rào cản rõ ràng và kết quả có thể đo lường được. Đó có thể là một trợ lý kỹ thuật, một trợ lý vận hành, hoặc một agent tổng hợp các bộ dữ liệu phức tạp cho các nhà điều hành.
3. Đảm bảo chất lượng dữ liệu
"AI hoạt động tốt khi có dữ liệu chất lượng làm nền tảng," Oleg Danyliuk, CEO của Duanex, một công ty tiếp thị đã xây dựng một agent để tự động hóa việc xác thực khách hàng tiềm năng trên trang web của họ, cho biết. Anh giải thích rằng, để hiểu liệu một khách hàng tiềm năng có thú vị hay không, họ cần thu thập càng nhiều dữ liệu càng tốt, và phần phức tạp nhất là lấy dữ liệu mạng xã hội, vì hầu hết không thể cạo (scrape) được. Đó là lý do họ phải thực hiện nhiều cách giải quyết khác nhau và chỉ lấy phần dữ liệu công khai. Tolga Tarhan cũng đồng ý rằng "chất lượng dữ liệu là vấn đề số một. Các mô hình chỉ hoạt động tốt như thông tin mà chúng được cung cấp."
4. Bắt đầu từ vấn đề, không phải công nghệ
"Hãy xác định thành công ngay từ đầu," Tarhan khuyên. "Hãy đo lường mọi thứ. Giữ con người tham gia vào quy trình lâu hơn mức cần thiết. Và đầu tư sớm vào khả năng quan sát và quản trị. Khi được thực hiện đúng cách, AI agent có thể mang tính biến đổi. Khi vội vàng, chúng sẽ trở thành những bản demo đắt tiền. Sự khác biệt nằm ở tính kỷ luật." Đội ngũ của Tarhan luôn coi các agent như những dự án có lộ trình, vòng lặp phản hồi và sự lặp lại liên tục, chứ không phải là "những thí nghiệm khoa học."
5. Cân nhắc phương pháp 'AgentOps'
Martin Bufi, giám đốc nghiên cứu chính tại Info-Tech Research Group, cho rằng "AI agent không thành công chỉ dựa vào khả năng của mô hình." Đội ngũ của anh đã thiết kế và phát triển các hệ thống AI agent cho các chức năng cấp doanh nghiệp, bao gồm phân tích tài chính, xác thực tuân thủ và xử lý tài liệu. Điều giúp các dự án này thành công là việc áp dụng "AgentOps" (vận hành agent), tập trung vào việc quản lý toàn bộ vòng đời của agent.
6. Giữ cho các agent tập trung
Thay vì xây dựng các agent "làm tất cả" cồng kềnh, Bufi khuyên nên "sử dụng nhiều agent chuyên biệt cho các chức năng như phân tích, xác thực, định tuyến hoặc giao tiếp." Ngoài ra, đội ngũ của Bufi còn tìm cách để các nhóm agent này phản ánh cách các nhóm con người hoạt động, "thông qua các mô hình điều phối rõ ràng như mô hình 'trục và nan hoa' cho công việc song song, hoặc các quy trình tuần tự nơi ý định và sự tự tin phải được thiết lập trước khi thực hiện hành động sâu hơn."
7. Giữ ngữ cảnh phù hợp và luôn thích nghi
Ngay cả đối với một agent tương đối giới hạn, chỉ dành cho một người dùng, "quản lý ngữ cảnh là một trở ngại đáng kể và có thể dẫn đến các vấn đề lớn nếu không được xử lý đúng cách," Sean Falconer, trưởng bộ phận AI tại Confluent, chia sẻ khi nhìn lại một agent cá nhân mà anh đã xây dựng. Anh giải thích rằng, khi các agent lặp lại qua các công cụ và tương tác lặp đi lặp lại, cửa sổ ngữ cảnh sẽ nhanh chóng đầy lên. Mặc dù các điểm dữ liệu cũ hơn có thể mất đi sự liên quan, nhưng các mô hình không phải lúc nào cũng ưu tiên thông tin phù hợp một cách ngầm định.
Để duy trì đầu ra chất lượng cao và nhất quán, các nhà phát triển "dành một lượng thời gian không cân xứng để tối ưu hóa cách họ cắt tỉa, tóm tắt và đưa ngữ cảnh vào để agent không bị lạc mất mục tiêu ban đầu." Falconer nhấn mạnh: "Hãy thiết kế để có khả năng thích ứng ngay từ ngày đầu tiên. Đảm bảo các khoản đầu tư AI của bạn linh hoạt và được trừu tượng hóa đúng cách. Tránh bị khóa vào nhà cung cấp hoặc mô hình để bạn có thể nhanh chóng xoay chuyển khi làn sóng đổi mới tiếp theo đến."
Hy vọng những chia sẻ này sẽ giúp các bạn có cái nhìn rõ ràng hơn về hành trình triển khai AI agent đầy thú vị nhưng cũng không kém phần thử thách nhé!
Các chuyên gia trong ngành đã chỉ ra rằng, khi làm việc với AI agent, chúng ta cần phải suy nghĩ lại về cách kiểm soát, đầu tư, quản trị và thiết kế. Có những "căng thẳng" mà các nhà phát triển và những người ủng hộ AI agent cần phải lưu ý. Chẳng hạn, nếu chúng ta giới hạn hệ thống quá mức, hiệu quả của chúng sẽ bị giảm đi, nhưng nếu cho chúng quá nhiều tự do, thì lại dễ dẫn đến những hành động khó lường. Hơn nữa, AI agent còn buộc các tổ chức phải xem xét lại cách đánh giá chi phí, thời gian và lợi tức đầu tư. Một câu hỏi lớn đặt ra là liệu chúng ta nên nhanh chóng tích hợp AI agent vào các quy trình làm việc hiện có, hay dành thời gian để định hình lại hoàn toàn các quy trình đó.
Thực tế, toàn ngành đều đồng ý rằng AI agent đòi hỏi những cân nhắc mới mẻ, vượt xa những gì chúng ta đã quen thuộc trong phát triển phần mềm truyền thống. Và trong quá trình đó, rất nhiều bài học quý giá đã được rút ra. Các nhà lãnh đạo trong ngành đã chia sẻ những kinh nghiệm xương máu của họ khi tiến vào tương lai của AI agent.
1. Quản trị là yếu tố cực kỳ quan trọng
Nik Kale, kỹ sư chính tại Cisco, người đã dẫn dắt một nhóm triển khai các agent để cung cấp hướng dẫn kỹ thuật chuyên sâu cho hơn 100.000 người dùng, đã chia sẻ một điều rất đáng suy ngẫm: "Sự tự tin không đồng nghĩa với sự chính xác." Anh kể rằng, những phiên bản đầu tiên của agent có thể phản hồi rất tự tin nhưng lại sai lệch, điều này buộc đội ngũ phải đầu tư rất nhiều vào việc "nền tảng hóa" các phản hồi thông qua việc truy xuất và kiến thức có cấu trúc.
Một bài học quan trọng mà họ rút ra là "quản trị không thể là một yếu tố được thêm vào sau." Khi các biện pháp giám sát và kiểm soát chính sách được bổ sung muộn, các hệ thống thường thiếu các "móc nối" kiến trúc để hỗ trợ chúng, dẫn đến những gián đoạn hoặc phải thiết kế lại rất tốn kém. Về lâu dài, niềm tin sẽ được xây dựng nhanh hơn. Khi các hệ thống hoạt động tốt, sự giám sát của con người sẽ giảm đi. Đó là lúc các vấn đề như "phạm vi mở rộng" và "tự chủ ngoài ý muốn" có thể xuất hiện nếu ranh giới không được xác định rõ ràng.
Nik Kale cũng khuyên những người ủng hộ AI agent rằng, hãy "cấp quyền tự chủ theo tỷ lệ thuận với khả năng đảo ngược, chứ không phải theo mức độ tự tin của mô hình." Những hành động không thể đảo ngược trên nhiều lĩnh vực luôn cần có sự giám sát của con người, bất kể hệ thống có vẻ tự tin đến đâu. Khả năng quan sát cũng là chìa khóa, bởi vì việc có thể thấy cách một quyết định được đưa ra quan trọng không kém gì chính bản thân quyết định đó.
2. Bắt đầu với phạm vi hẹp
Với các agent, chúng ta nên "cố tình bắt đầu với phạm vi hẹp," Tolga Tarhan, CEO của Atomic Gravity, chia sẻ. Hầu hết các agent mà đội ngũ của anh triển khai đều được giới hạn trong một lĩnh vực duy nhất với các rào cản rõ ràng và kết quả có thể đo lường được. Đó có thể là một trợ lý kỹ thuật, một trợ lý vận hành, hoặc một agent tổng hợp các bộ dữ liệu phức tạp cho các nhà điều hành.
3. Đảm bảo chất lượng dữ liệu
"AI hoạt động tốt khi có dữ liệu chất lượng làm nền tảng," Oleg Danyliuk, CEO của Duanex, một công ty tiếp thị đã xây dựng một agent để tự động hóa việc xác thực khách hàng tiềm năng trên trang web của họ, cho biết. Anh giải thích rằng, để hiểu liệu một khách hàng tiềm năng có thú vị hay không, họ cần thu thập càng nhiều dữ liệu càng tốt, và phần phức tạp nhất là lấy dữ liệu mạng xã hội, vì hầu hết không thể cạo (scrape) được. Đó là lý do họ phải thực hiện nhiều cách giải quyết khác nhau và chỉ lấy phần dữ liệu công khai. Tolga Tarhan cũng đồng ý rằng "chất lượng dữ liệu là vấn đề số một. Các mô hình chỉ hoạt động tốt như thông tin mà chúng được cung cấp."
4. Bắt đầu từ vấn đề, không phải công nghệ
"Hãy xác định thành công ngay từ đầu," Tarhan khuyên. "Hãy đo lường mọi thứ. Giữ con người tham gia vào quy trình lâu hơn mức cần thiết. Và đầu tư sớm vào khả năng quan sát và quản trị. Khi được thực hiện đúng cách, AI agent có thể mang tính biến đổi. Khi vội vàng, chúng sẽ trở thành những bản demo đắt tiền. Sự khác biệt nằm ở tính kỷ luật." Đội ngũ của Tarhan luôn coi các agent như những dự án có lộ trình, vòng lặp phản hồi và sự lặp lại liên tục, chứ không phải là "những thí nghiệm khoa học."
5. Cân nhắc phương pháp 'AgentOps'
Martin Bufi, giám đốc nghiên cứu chính tại Info-Tech Research Group, cho rằng "AI agent không thành công chỉ dựa vào khả năng của mô hình." Đội ngũ của anh đã thiết kế và phát triển các hệ thống AI agent cho các chức năng cấp doanh nghiệp, bao gồm phân tích tài chính, xác thực tuân thủ và xử lý tài liệu. Điều giúp các dự án này thành công là việc áp dụng "AgentOps" (vận hành agent), tập trung vào việc quản lý toàn bộ vòng đời của agent.
6. Giữ cho các agent tập trung
Thay vì xây dựng các agent "làm tất cả" cồng kềnh, Bufi khuyên nên "sử dụng nhiều agent chuyên biệt cho các chức năng như phân tích, xác thực, định tuyến hoặc giao tiếp." Ngoài ra, đội ngũ của Bufi còn tìm cách để các nhóm agent này phản ánh cách các nhóm con người hoạt động, "thông qua các mô hình điều phối rõ ràng như mô hình 'trục và nan hoa' cho công việc song song, hoặc các quy trình tuần tự nơi ý định và sự tự tin phải được thiết lập trước khi thực hiện hành động sâu hơn."
7. Giữ ngữ cảnh phù hợp và luôn thích nghi
Ngay cả đối với một agent tương đối giới hạn, chỉ dành cho một người dùng, "quản lý ngữ cảnh là một trở ngại đáng kể và có thể dẫn đến các vấn đề lớn nếu không được xử lý đúng cách," Sean Falconer, trưởng bộ phận AI tại Confluent, chia sẻ khi nhìn lại một agent cá nhân mà anh đã xây dựng. Anh giải thích rằng, khi các agent lặp lại qua các công cụ và tương tác lặp đi lặp lại, cửa sổ ngữ cảnh sẽ nhanh chóng đầy lên. Mặc dù các điểm dữ liệu cũ hơn có thể mất đi sự liên quan, nhưng các mô hình không phải lúc nào cũng ưu tiên thông tin phù hợp một cách ngầm định.
Để duy trì đầu ra chất lượng cao và nhất quán, các nhà phát triển "dành một lượng thời gian không cân xứng để tối ưu hóa cách họ cắt tỉa, tóm tắt và đưa ngữ cảnh vào để agent không bị lạc mất mục tiêu ban đầu." Falconer nhấn mạnh: "Hãy thiết kế để có khả năng thích ứng ngay từ ngày đầu tiên. Đảm bảo các khoản đầu tư AI của bạn linh hoạt và được trừu tượng hóa đúng cách. Tránh bị khóa vào nhà cung cấp hoặc mô hình để bạn có thể nhanh chóng xoay chuyển khi làn sóng đổi mới tiếp theo đến."
Hy vọng những chia sẻ này sẽ giúp các bạn có cái nhìn rõ ràng hơn về hành trình triển khai AI agent đầy thú vị nhưng cũng không kém phần thử thách nhé!
