Các nhà lập pháp thành phố Porto Alegre của Brazil vào tháng 10 vừa qua đã ban hành quy định nhằm ngăn thành phố tính phí thay các đồng hồ nước bị ăn cắp. Quy định này không có gì bất ngờ nhưng nó lại gây xôn xao khi được viết hoàn toàn bằng ChatGPT mà những người ban hành không hề hay biết.
Trả lời hãng tin AP, Ramiro Rosário - ủy viên hội đồng thành phố Porto Alegre nằm ở phía nam Brazil, cho biết ông đã yêu cầu chatbot ChatGPT của OpenAI đưa ra một đề xuất nhằm ngăn thành phố tính phí thay thế các đồng hồ đo nước bị đánh cắp. Sau đó, ông trình bày đề xuất đó với 35 đồng nghiệp của mình trong hội đồng thành phố mà không thực hiện một thay đổi nào và thậm chí không cho họ biết về việc dùng ChatGPT để soạn nội dung của đề xuất.
“Nếu tôi tiết lộ điều đó trước, đề xuất này chắc chắn sẽ không được đưa ra bỏ phiếu. Hội đồng gồm 36 thành viên đã nhất trí thông qua và sắc lệnh này có hiệu lực vào ngày 23/11/2023”, Rosário nói với AP qua điện thoại.
Ông nói thêm: “Sẽ không công bằng cho người dân nếu có nguy cơ đề xuất không được phê duyệt chỉ vì nó được viết bởi trí tuệ nhân tạo”.
Sự xuất hiện của ChatGPT trên thị trường cách đây tròn một năm đã làm dấy lên cuộc tranh luận toàn cầu về tác động của các chatbot AI. Một số người coi đó là một công cụ đầy hứa hẹn nhưng các ứng dụng AI như ChatGPT cũng gây ra những lo ngại và lo lắng về những tác động ngoài ý muốn hoặc không mong muốn.
Porto Alegre, với dân số 1,3 triệu người, là thành phố lớn thứ hai ở phía nam Brazil. Chủ tịch hội đồng thành phố, Hamilton Sossmeier, phát hiện ra Ramiro Rosário đã nhờ ChatGPT viết đề xuất khi ủy viên hội đồng này khoe khoang về thành tích trên mạng xã hội vào tuần trước. Hamilton Sossmeier ban đầu nói với truyền thông địa phương rằng ông nghĩ đây là một “tiền lệ nguy hiểm”.
Các mô hình ngôn ngữ lớn AI hỗ trợ các chatbot như ChatGPT hoạt động bằng cách liên tục cố gắng đoán từ tiếp theo trong câu và có xu hướng tạo ra thông tin sai lệch.
Theo nghiên cứu được công bố gần đây của công ty công nghệ Vectara, tất cả các chatbot đôi khi đưa ra thông tin sai lệch khi tóm tắt một tài liệu, từ khoảng 3-27% tùy mô hình chatbot.
Trong một bài báo đăng trên trang web của Trường luật Harvard vào đầu năm nay, Andrew Perlman, trưởng khoa của trường luật Suffolk, đã viết rằng ChatGPT “có thể báo trước một sự thay đổi thậm chí còn quan trọng hơn cả sự ra đời của Internet”, nhưng ông cũng cảnh báo về những nhược điểm tiềm tàng của nó.
“Không phải lúc nào ChatGPT cũng có thể giải thích được các sắc thái và sự phức tạp của luật. Vì ChatGPT là một hệ thống máy học nên nó có thể không có mức độ hiểu biết và phán đoán như một luật sư con người khi giải thích các nguyên tắc và tiền lệ pháp lý. Điều này có thể dẫn đến các vấn đề trong những tình huống cần có sự phân tích pháp lý sâu hơn,” Andrew Perlman viết.
Ramiro Rosário của thành phố Porto Alegre không phải là nhà lập pháp đầu tiên trên thế giới ứng dụng ChatGPT để viết dự thảo luật. Nhiều người khác đã làm như vậy nhưng kết quả không thành công bằng.
Tại Massachusetts (Mỹ), thượng nghị sĩ đảng Dân chủ Barry Finegold đã nhờ ChatGPT viết một dự luật nhằm điều chỉnh các mô hình trí tuệ nhân tạo, bao gồm cả ChatGPT. Dự thảo này được gửi đi vào đầu năm nay nhưng đến giờ vẫn chưa được thông qua.
Barry Finegold chia sẻ với hãng tin AP rằng ChatGPT có thể trợ giúp một số yếu tố tẻ nhạt hơn của quá trình lập pháp, bao gồm tìm kiếm và trích dẫn các luật đã có một cách chính xác và nhanh chóng. Tuy nhiên, điều quan trọng là mọi người đều cần phải biết ChatGPT hoặc một công cụ tương tự đã được sử dụng trong quá trình này, ông nói thêm.
Ông nói: “Chúng tôi muốn tác phẩm do ChatGPT tạo ra phải có hình mờ,” đồng thời cho biết thêm rằng việc sử dụng trí tuệ nhân tạo để giúp soạn thảo luật mới là điều không thể tránh khỏi. “Tôi ủng hộ việc mọi người sử dụng ChatGPT để viết dự luật miễn là điều đó rõ ràng.”
Đề xuất của Ramiro Rosário ở Porto Alegre không có sự minh bạch như vậy. Hamilton Sossmeier cho biết Ramiro Rosário đã không thông báo cho các thành viên hội đồng rằng ChatGPT đã viết đề xuất đó.
Việc giữ bí mật nguồn gốc của đề xuất là có chủ ý. Ramiro Rosário nói với AP rằng mục tiêu của anh không chỉ là giải quyết vấn đề địa phương mà còn gây ra một cuộc tranh luận. Ramiro Rosário cho biết ông đã đưa ra yêu cầu dài 49 từ vào ChatGPT và nó đã trả về bản dự thảo đề xuất đầy đủ trong vòng vài giây, bao gồm cả các giải thích.
Ramiro Rosário nói: “Tôi tin chắc rằng… nhân loại sẽ trải qua một cuộc cách mạng công nghệ mới. Tất cả những công cụ mà nền văn minh chúng ta đã phát triển đều có thể được sử dụng cho mục đích xấu và tốt. Đó là lý do tại sao chúng ta phải chỉ ra cách nó có thể được sử dụng cho mục đích tốt đẹp.”
Và chủ tịch hội đồng, người ban đầu chỉ trích phương pháp này, dường như đã bị lung lay.
“Tôi đã đổi ý,” Hamilton Sossmeier nói. “Tôi bắt đầu đọc sâu hơn và thấy rằng, thật không may hoặc may mắn thay, đây sẽ là một xu hướng.”
“Nếu tôi tiết lộ điều đó trước, đề xuất này chắc chắn sẽ không được đưa ra bỏ phiếu. Hội đồng gồm 36 thành viên đã nhất trí thông qua và sắc lệnh này có hiệu lực vào ngày 23/11/2023”, Rosário nói với AP qua điện thoại.
Ông nói thêm: “Sẽ không công bằng cho người dân nếu có nguy cơ đề xuất không được phê duyệt chỉ vì nó được viết bởi trí tuệ nhân tạo”.
Sự xuất hiện của ChatGPT trên thị trường cách đây tròn một năm đã làm dấy lên cuộc tranh luận toàn cầu về tác động của các chatbot AI. Một số người coi đó là một công cụ đầy hứa hẹn nhưng các ứng dụng AI như ChatGPT cũng gây ra những lo ngại và lo lắng về những tác động ngoài ý muốn hoặc không mong muốn.
Porto Alegre, với dân số 1,3 triệu người, là thành phố lớn thứ hai ở phía nam Brazil. Chủ tịch hội đồng thành phố, Hamilton Sossmeier, phát hiện ra Ramiro Rosário đã nhờ ChatGPT viết đề xuất khi ủy viên hội đồng này khoe khoang về thành tích trên mạng xã hội vào tuần trước. Hamilton Sossmeier ban đầu nói với truyền thông địa phương rằng ông nghĩ đây là một “tiền lệ nguy hiểm”.
Các mô hình ngôn ngữ lớn AI hỗ trợ các chatbot như ChatGPT hoạt động bằng cách liên tục cố gắng đoán từ tiếp theo trong câu và có xu hướng tạo ra thông tin sai lệch.
Theo nghiên cứu được công bố gần đây của công ty công nghệ Vectara, tất cả các chatbot đôi khi đưa ra thông tin sai lệch khi tóm tắt một tài liệu, từ khoảng 3-27% tùy mô hình chatbot.
Trong một bài báo đăng trên trang web của Trường luật Harvard vào đầu năm nay, Andrew Perlman, trưởng khoa của trường luật Suffolk, đã viết rằng ChatGPT “có thể báo trước một sự thay đổi thậm chí còn quan trọng hơn cả sự ra đời của Internet”, nhưng ông cũng cảnh báo về những nhược điểm tiềm tàng của nó.
“Không phải lúc nào ChatGPT cũng có thể giải thích được các sắc thái và sự phức tạp của luật. Vì ChatGPT là một hệ thống máy học nên nó có thể không có mức độ hiểu biết và phán đoán như một luật sư con người khi giải thích các nguyên tắc và tiền lệ pháp lý. Điều này có thể dẫn đến các vấn đề trong những tình huống cần có sự phân tích pháp lý sâu hơn,” Andrew Perlman viết.
Ramiro Rosário của thành phố Porto Alegre không phải là nhà lập pháp đầu tiên trên thế giới ứng dụng ChatGPT để viết dự thảo luật. Nhiều người khác đã làm như vậy nhưng kết quả không thành công bằng.
Tại Massachusetts (Mỹ), thượng nghị sĩ đảng Dân chủ Barry Finegold đã nhờ ChatGPT viết một dự luật nhằm điều chỉnh các mô hình trí tuệ nhân tạo, bao gồm cả ChatGPT. Dự thảo này được gửi đi vào đầu năm nay nhưng đến giờ vẫn chưa được thông qua.
Barry Finegold chia sẻ với hãng tin AP rằng ChatGPT có thể trợ giúp một số yếu tố tẻ nhạt hơn của quá trình lập pháp, bao gồm tìm kiếm và trích dẫn các luật đã có một cách chính xác và nhanh chóng. Tuy nhiên, điều quan trọng là mọi người đều cần phải biết ChatGPT hoặc một công cụ tương tự đã được sử dụng trong quá trình này, ông nói thêm.
Ông nói: “Chúng tôi muốn tác phẩm do ChatGPT tạo ra phải có hình mờ,” đồng thời cho biết thêm rằng việc sử dụng trí tuệ nhân tạo để giúp soạn thảo luật mới là điều không thể tránh khỏi. “Tôi ủng hộ việc mọi người sử dụng ChatGPT để viết dự luật miễn là điều đó rõ ràng.”
Đề xuất của Ramiro Rosário ở Porto Alegre không có sự minh bạch như vậy. Hamilton Sossmeier cho biết Ramiro Rosário đã không thông báo cho các thành viên hội đồng rằng ChatGPT đã viết đề xuất đó.
Việc giữ bí mật nguồn gốc của đề xuất là có chủ ý. Ramiro Rosário nói với AP rằng mục tiêu của anh không chỉ là giải quyết vấn đề địa phương mà còn gây ra một cuộc tranh luận. Ramiro Rosário cho biết ông đã đưa ra yêu cầu dài 49 từ vào ChatGPT và nó đã trả về bản dự thảo đề xuất đầy đủ trong vòng vài giây, bao gồm cả các giải thích.
Ramiro Rosário nói: “Tôi tin chắc rằng… nhân loại sẽ trải qua một cuộc cách mạng công nghệ mới. Tất cả những công cụ mà nền văn minh chúng ta đã phát triển đều có thể được sử dụng cho mục đích xấu và tốt. Đó là lý do tại sao chúng ta phải chỉ ra cách nó có thể được sử dụng cho mục đích tốt đẹp.”
Và chủ tịch hội đồng, người ban đầu chỉ trích phương pháp này, dường như đã bị lung lay.
“Tôi đã đổi ý,” Hamilton Sossmeier nói. “Tôi bắt đầu đọc sâu hơn và thấy rằng, thật không may hoặc may mắn thay, đây sẽ là một xu hướng.”
