Thoại Viết Hoàng
Writer
Nghiên cứu mới do Lầu Năm Góc tài trợ cho thấy trí tuệ nhân tạo có thể quét và phân tích các khối văn bản để phân biệt xem những người viết ra nó có làm gì sai hay không.
Bài báo được viết bởi hai nhà nghiên cứu tại Đại học Ben-Gurion, tận dụng các mô hình dự đoán có thể phân tích các thông điệp cho cái mà họ gọi là “vi phạm chuẩn mực xã hội”. Để làm điều này, các nhà nghiên cứu đã sử dụng GPT-3 (một mô hình ngôn ngữ lớn có thể lập trình được tạo bởi OpenAI có thể tự động hóa việc tạo và phân tích nội dung), cùng với một phương pháp phân tích dữ liệu được gọi là phân loại văn bản zero-shot, để xác định các loại “vi phạm quy tắc” ” trong tin nhắn văn bản. Các nhà nghiên cứu chia nhỏ mục đích của dự án của họ như sau:
Trong khi các chuẩn mực xã hội và sự vi phạm của chúng đã được nghiên cứu chuyên sâu trong tâm lý học và khoa học xã hội, việc xác định tự động các chuẩn mực xã hội và sự vi phạm của chúng là một thách thức mở có thể rất quan trọng đối với một số dự án...Đó là một thách thức mở bởi vì trước tiên chúng ta phải xác định các đặc điểm/tín hiệu/biến thể chỉ ra rằng một chuẩn mực xã hội đã bị vi phạm... Ví dụ: đến văn phòng của bạn trong tình trạng say xỉn và ăn mặc bẩn thỉu là vi phạm một chuẩn mực xã hội của đa số người đi làm. Tuy nhiên, việc “dạy” máy móc/máy tính rằng hành vi đó là vi phạm quy tắc không phải là chuyện nhỏ.
Nội dung liên quan
Tất nhiên, khó khăn với tiền đề này là các chuẩn mực khác nhau tùy thuộc vào bạn là ai và bạn đến từ đâu. Tuy nhiên, các nhà nghiên cứu khẳng định rằng mặc dù các giá trị và phong tục của các nền văn hóa khác nhau có thể khác nhau, nhưng phản ứng của con người đối với việc từ bỏ chúng có thể khá nhất quán. Báo cáo lưu ý:
Mặc dù các chuẩn mực xã hội có thể cụ thể về mặt văn hóa và bao gồm nhiều “quy tắc” không chính thức, nhưng cách mọi người phản ứng với hành vi vi phạm chuẩn mực thông qua các cảm xúc xã hội dựa trên cơ sở tiến hóa có thể tổng quát hơn nhiều và cung cấp cho chúng ta các dấu hiệu để tự động xác định hành vi vi phạm chuẩn mực...kết quả [ của dự án] ủng hộ vai trò quan trọng của cảm xúc xã hội trong việc báo hiệu sự vi phạm chuẩn mực và chỉ ra những phân tích và sử dụng chúng trong tương lai để hiểu và phát hiện vi phạm chuẩn mực.
Cuối cùng, các nhà nghiên cứu đã kết luận rằng “một chiến lược mang tính xây dựng để xác định hành vi vi phạm các chuẩn mực xã hội là tập trung vào một số cảm xúc xã hội hạn chế báo hiệu hành vi vi phạm đó,” cụ thể là cảm giác tội lỗi và xấu hổ. Nói cách khác, các nhà khoa học muốn sử dụng AI để hiểu khi nào người dùng di động có thể cảm thấy tồi tệ về điều họ đã làm. Để làm được điều này, họ đã tạo “dữ liệu tổng hợp” của riêng mình thông qua GPT-3, sau đó tận dụng phân loại văn bản zero-shot để đào tạo các mô hình dự đoán có thể “tự động xác định cảm xúc xã hội” trong dữ liệu đó. Họ nói rằng hy vọng là mô hình phân tích này có thể được xoay vòng để tự động quét lịch sử văn bản để tìm dấu hiệu của hành vi sai trái.
Hơi đáng lo ngại, nghiên cứu này được tài trợ bởi Cơ quan Dự án Nghiên cứu Tiên tiến Quốc phòng (DARPA) của Lầu Năm Góc. Được thành lập vào năm 1958, DARPA đã đi đầu trong nghiên cứu và phát triển quân sự của Hoa Kỳ trong hơn một thế kỷ qua, thường xuyên giúp tạo ra một số đổi mới công nghệ quan trọng nhất của thời đại chúng ta (xem: máy bay không người lái, vắc-xin và internet, trong số nhiều người khác). Cơ quan tài trợ cho nhiều lĩnh vực nghiên cứu đa dạng, luôn với hy vọng tìm ra thứ lớn tiếp theo cho cỗ máy chiến tranh của Mỹ.
Các nhà nghiên cứu của Ben-Gurion cho biết dự án của họ được hỗ trợ bởi chương trình hiểu văn hóa điện toán của DARPA—một sáng kiến
với nhiệm vụ mơ hồ là phát triển “các công nghệ hiểu ngôn ngữ đa văn hóa để cải thiện nhận thức tình huống và hiệu quả tương tác của người điều hành DoD”. Tôi không chắc chắn 100% điều đó có nghĩa là gì, mặc dù có vẻ như (về cơ bản) Lầu Năm Góc muốn tạo ra phần mềm có thể phân tích dân số nước ngoài cho họ để khi Hoa Kỳ chắc chắn xảy ra chiến tranh với những dân số nói trên, chúng tôi sẽ hiểu họ đang cảm thấy thế nào về nó. Điều đó nói rằng, lý do tại sao DARPA đặc biệt muốn nghiên cứu chủ đề "vi phạm chuẩn mực xã hội" là một chút không rõ ràng, vì vậy Gizmodo đã liên hệ với cơ quan để biết thêm bối cảnh và sẽ cập nhật câu chuyện này nếu nó phản hồi.
Về bản chất, nghiên cứu dường như là một hình thức phân tích tình cảm khác - một lĩnh vực đã được nghiên cứu khá kỹ lưỡng trong tổ hợp công nghiệp giám sát. Đó cũng là một dấu hiệu khác cho thấy AI chắc chắn sẽ được sử dụng để mở rộng sức mạnh của cộng đồng quốc phòng Hoa Kỳ, với những kết quả đáng báo động.
Tham khảo bài viết gốc tại đây
[IMG alt="
Nghiên cứu do Lầu Năm Góc tài trợ sử dụng AI để phát hiện 'Vi phạm chuẩn mực xã hội' trong văn bản"]https://cdn.vnreview.vn/786432_6337...9e3e8d34a55f52b537ba82607ae0&width=1080[/IMG]
Photo: iHaMoo (Shutterstock)Nghiên cứu do Lầu Năm Góc tài trợ sử dụng AI để phát hiện 'Vi phạm chuẩn mực xã hội' trong văn bản"]https://cdn.vnreview.vn/786432_6337...9e3e8d34a55f52b537ba82607ae0&width=1080[/IMG]
Bài báo được viết bởi hai nhà nghiên cứu tại Đại học Ben-Gurion, tận dụng các mô hình dự đoán có thể phân tích các thông điệp cho cái mà họ gọi là “vi phạm chuẩn mực xã hội”. Để làm điều này, các nhà nghiên cứu đã sử dụng GPT-3 (một mô hình ngôn ngữ lớn có thể lập trình được tạo bởi OpenAI có thể tự động hóa việc tạo và phân tích nội dung), cùng với một phương pháp phân tích dữ liệu được gọi là phân loại văn bản zero-shot, để xác định các loại “vi phạm quy tắc” ” trong tin nhắn văn bản. Các nhà nghiên cứu chia nhỏ mục đích của dự án của họ như sau:
Trong khi các chuẩn mực xã hội và sự vi phạm của chúng đã được nghiên cứu chuyên sâu trong tâm lý học và khoa học xã hội, việc xác định tự động các chuẩn mực xã hội và sự vi phạm của chúng là một thách thức mở có thể rất quan trọng đối với một số dự án...Đó là một thách thức mở bởi vì trước tiên chúng ta phải xác định các đặc điểm/tín hiệu/biến thể chỉ ra rằng một chuẩn mực xã hội đã bị vi phạm... Ví dụ: đến văn phòng của bạn trong tình trạng say xỉn và ăn mặc bẩn thỉu là vi phạm một chuẩn mực xã hội của đa số người đi làm. Tuy nhiên, việc “dạy” máy móc/máy tính rằng hành vi đó là vi phạm quy tắc không phải là chuyện nhỏ.
Nội dung liên quan
Tất nhiên, khó khăn với tiền đề này là các chuẩn mực khác nhau tùy thuộc vào bạn là ai và bạn đến từ đâu. Tuy nhiên, các nhà nghiên cứu khẳng định rằng mặc dù các giá trị và phong tục của các nền văn hóa khác nhau có thể khác nhau, nhưng phản ứng của con người đối với việc từ bỏ chúng có thể khá nhất quán. Báo cáo lưu ý:
Mặc dù các chuẩn mực xã hội có thể cụ thể về mặt văn hóa và bao gồm nhiều “quy tắc” không chính thức, nhưng cách mọi người phản ứng với hành vi vi phạm chuẩn mực thông qua các cảm xúc xã hội dựa trên cơ sở tiến hóa có thể tổng quát hơn nhiều và cung cấp cho chúng ta các dấu hiệu để tự động xác định hành vi vi phạm chuẩn mực...kết quả [ của dự án] ủng hộ vai trò quan trọng của cảm xúc xã hội trong việc báo hiệu sự vi phạm chuẩn mực và chỉ ra những phân tích và sử dụng chúng trong tương lai để hiểu và phát hiện vi phạm chuẩn mực.
Cuối cùng, các nhà nghiên cứu đã kết luận rằng “một chiến lược mang tính xây dựng để xác định hành vi vi phạm các chuẩn mực xã hội là tập trung vào một số cảm xúc xã hội hạn chế báo hiệu hành vi vi phạm đó,” cụ thể là cảm giác tội lỗi và xấu hổ. Nói cách khác, các nhà khoa học muốn sử dụng AI để hiểu khi nào người dùng di động có thể cảm thấy tồi tệ về điều họ đã làm. Để làm được điều này, họ đã tạo “dữ liệu tổng hợp” của riêng mình thông qua GPT-3, sau đó tận dụng phân loại văn bản zero-shot để đào tạo các mô hình dự đoán có thể “tự động xác định cảm xúc xã hội” trong dữ liệu đó. Họ nói rằng hy vọng là mô hình phân tích này có thể được xoay vòng để tự động quét lịch sử văn bản để tìm dấu hiệu của hành vi sai trái.
Hơi đáng lo ngại, nghiên cứu này được tài trợ bởi Cơ quan Dự án Nghiên cứu Tiên tiến Quốc phòng (DARPA) của Lầu Năm Góc. Được thành lập vào năm 1958, DARPA đã đi đầu trong nghiên cứu và phát triển quân sự của Hoa Kỳ trong hơn một thế kỷ qua, thường xuyên giúp tạo ra một số đổi mới công nghệ quan trọng nhất của thời đại chúng ta (xem: máy bay không người lái, vắc-xin và internet, trong số nhiều người khác). Cơ quan tài trợ cho nhiều lĩnh vực nghiên cứu đa dạng, luôn với hy vọng tìm ra thứ lớn tiếp theo cho cỗ máy chiến tranh của Mỹ.
Các nhà nghiên cứu của Ben-Gurion cho biết dự án của họ được hỗ trợ bởi chương trình hiểu văn hóa điện toán của DARPA—một sáng kiến
với nhiệm vụ mơ hồ là phát triển “các công nghệ hiểu ngôn ngữ đa văn hóa để cải thiện nhận thức tình huống và hiệu quả tương tác của người điều hành DoD”. Tôi không chắc chắn 100% điều đó có nghĩa là gì, mặc dù có vẻ như (về cơ bản) Lầu Năm Góc muốn tạo ra phần mềm có thể phân tích dân số nước ngoài cho họ để khi Hoa Kỳ chắc chắn xảy ra chiến tranh với những dân số nói trên, chúng tôi sẽ hiểu họ đang cảm thấy thế nào về nó. Điều đó nói rằng, lý do tại sao DARPA đặc biệt muốn nghiên cứu chủ đề "vi phạm chuẩn mực xã hội" là một chút không rõ ràng, vì vậy Gizmodo đã liên hệ với cơ quan để biết thêm bối cảnh và sẽ cập nhật câu chuyện này nếu nó phản hồi.
Về bản chất, nghiên cứu dường như là một hình thức phân tích tình cảm khác - một lĩnh vực đã được nghiên cứu khá kỹ lưỡng trong tổ hợp công nghiệp giám sát. Đó cũng là một dấu hiệu khác cho thấy AI chắc chắn sẽ được sử dụng để mở rộng sức mạnh của cộng đồng quốc phòng Hoa Kỳ, với những kết quả đáng báo động.
Tham khảo bài viết gốc tại đây
