Vũ Nguyễn
Writer
Nhiều người nghĩ thuật toán chỉ là những dòng code trung tính. Máy móc thì làm sao có đạo đức hay lương tâm. Cách nghĩ đó chỉ đúng một nửa.
Thuật toán không tự đặt ra mục tiêu. Nó làm đúng những gì con người yêu cầu. Nếu mục tiêu là giao hàng nhanh hơn cho khách, thuật toán sẽ tìm cách rút ngắn thời gian. Nếu mục tiêu là giảm chi phí cho công ty, nó sẽ tìm cách trả ít tiền hơn mà hệ thống vẫn vận hành được. Vấn đề nằm ở chỗ đó.
Trong các ứng dụng giao đồ ăn hay gọi xe, thuật toán thường được thiết kế để tối ưu vài con số chính: tỉ lệ đơn được nhận, thời gian giao hàng, chi phí trả cho tài xế và lợi nhuận của nền tảng. Khi những con số này trở thành ưu tiên cao nhất, con người trong hệ thống rất dễ bị xem như “biến số”.
Ví dụ, nếu hệ thống nhận thấy có một nhóm tài xế luôn sẵn sàng nhận cuốc rẻ, chạy khuya, ít huỷ đơn, thì về mặt toán học, nhóm đó là “ổn định”. Thuật toán có thể ưu tiên đẩy những cuốc khó, cuốc rẻ cho họ, vì biết chắc họ vẫn chạy. Người mới hoặc người chạy bán thời gian thì được “nuông chiều” hơn để giữ họ ở lại hệ thống. Không cần ai ác ý, chỉ cần tối ưu lợi nhuận là đủ dẫn đến kết quả này.
Tương tự, với tiền tip. Nếu hệ thống nhận ra rằng khách hay tip cao thì đơn vẫn có người nhận dù lương cơ bản thấp, thuật toán có thể giảm phần trả cố định. Khi đó, lòng tốt của khách không làm tài xế khá lên bao nhiêu, mà vô tình giúp công ty giảm chi phí. Về mặt kỹ thuật, đây là tối ưu hợp lý. Về mặt đạo đức, nó rất đáng tranh cãi.
Điều nguy hiểm nhất của thuật toán không nằm ở chỗ nó sai, mà ở chỗ nó đúng một cách lạnh lùng. Nó không biết ai đang nuôi gia đình, ai đang cạn tiền cuối tháng, ai không còn lựa chọn nào khác. Nó chỉ thấy dữ liệu và xác suất.
Đạo đức thuật toán vì thế không phải là chuyện “code có ác hay không”, mà là câu hỏi: chúng ta đang tối ưu điều gì, và sẵn sàng hy sinh điều gì để đổi lấy vài phần trăm hiệu quả. Khi con người trốn sau câu nói “máy quyết định”, trách nhiệm đạo đức đã bị đẩy đi mất, dù chính con người là người đặt luật chơi.
Thuật toán rất giỏi tối ưu. Nhưng xã hội thì không thể chỉ được vận hành bằng tối ưu. Nếu không có ranh giới đạo đức rõ ràng, những hệ thống thông minh nhất lại có thể tạo ra những bất công rất… nguội lạnh và hợp lý.
Thuật toán không tự đặt ra mục tiêu. Nó làm đúng những gì con người yêu cầu. Nếu mục tiêu là giao hàng nhanh hơn cho khách, thuật toán sẽ tìm cách rút ngắn thời gian. Nếu mục tiêu là giảm chi phí cho công ty, nó sẽ tìm cách trả ít tiền hơn mà hệ thống vẫn vận hành được. Vấn đề nằm ở chỗ đó.
Trong các ứng dụng giao đồ ăn hay gọi xe, thuật toán thường được thiết kế để tối ưu vài con số chính: tỉ lệ đơn được nhận, thời gian giao hàng, chi phí trả cho tài xế và lợi nhuận của nền tảng. Khi những con số này trở thành ưu tiên cao nhất, con người trong hệ thống rất dễ bị xem như “biến số”.
Ví dụ, nếu hệ thống nhận thấy có một nhóm tài xế luôn sẵn sàng nhận cuốc rẻ, chạy khuya, ít huỷ đơn, thì về mặt toán học, nhóm đó là “ổn định”. Thuật toán có thể ưu tiên đẩy những cuốc khó, cuốc rẻ cho họ, vì biết chắc họ vẫn chạy. Người mới hoặc người chạy bán thời gian thì được “nuông chiều” hơn để giữ họ ở lại hệ thống. Không cần ai ác ý, chỉ cần tối ưu lợi nhuận là đủ dẫn đến kết quả này.
Tương tự, với tiền tip. Nếu hệ thống nhận ra rằng khách hay tip cao thì đơn vẫn có người nhận dù lương cơ bản thấp, thuật toán có thể giảm phần trả cố định. Khi đó, lòng tốt của khách không làm tài xế khá lên bao nhiêu, mà vô tình giúp công ty giảm chi phí. Về mặt kỹ thuật, đây là tối ưu hợp lý. Về mặt đạo đức, nó rất đáng tranh cãi.
Điều nguy hiểm nhất của thuật toán không nằm ở chỗ nó sai, mà ở chỗ nó đúng một cách lạnh lùng. Nó không biết ai đang nuôi gia đình, ai đang cạn tiền cuối tháng, ai không còn lựa chọn nào khác. Nó chỉ thấy dữ liệu và xác suất.
Đạo đức thuật toán vì thế không phải là chuyện “code có ác hay không”, mà là câu hỏi: chúng ta đang tối ưu điều gì, và sẵn sàng hy sinh điều gì để đổi lấy vài phần trăm hiệu quả. Khi con người trốn sau câu nói “máy quyết định”, trách nhiệm đạo đức đã bị đẩy đi mất, dù chính con người là người đặt luật chơi.
Thuật toán rất giỏi tối ưu. Nhưng xã hội thì không thể chỉ được vận hành bằng tối ưu. Nếu không có ranh giới đạo đức rõ ràng, những hệ thống thông minh nhất lại có thể tạo ra những bất công rất… nguội lạnh và hợp lý.
