thuha19051234
Pearl
Bài viết của Simon Coghlan, Nghiên cứu viên cao cấp tại Đại học Melbourne
Các trường đại học đang có xu hướng sử dụng ngày càng nhiều phần mềm máy tính để giám sát sinh viên trong kỳ thi trực tuyến. Liệu đây là có phải là những thử nghiệm cho một tương lai mà trí tuệ nhân tạo giám sát trong các trường học?
Do đại dịch, các tổ chức trên toàn thế giới đã nhanh chóng áp dụng các phần mềm giám sát và đánh giá thi cử của học sinh, như Examplify, ExamSoft và ProctorU.
Những công nghệ giám sát sẽ giúp theo dõi học sinh làm bài ngay cả khi họ ở nhà, thay vì phải ngồi trong môi trường thi cử truyền thống. Những phần mềm chống gian lần này tinh vi ở chỗ, chúng chiếm quyền điều khiển máy tính của học sinh để chặn và theo dõi những hoạt động đáng ngờ. Các chương trình này thường sử dụng trí tuệ nhân tạo (AI) để xem xét kỹ lưỡng về ý thức và đạo đức học sinh trong kỳ thi.
Nhiều tổ chức giáo dục tuyến bố phải có công nghệ theo dõi để ngăn chặn gian lận, số khác cùng sinh viên lại lo ngại về những nguy cơ tiềm ẩn. Tại nhiều trường học trên thế giới, sinh viên đã phát động các cuộc biểu tình, lên án về việc sử dụng AI giám sát trực tuyến nhằm xâm phạm quyền riêng tư của họ, cho rằng đó là phân biệt đối xử. Các công ty giám sát đã phản ứng lại bằng nhiều nỗ lực phản đối, bao gồm cả việc kiện những người chỉ trích.
Lời phàn nàn của một sinh viên rằng AI đánh dấu sai trong bài kiểm tra là gian lận đã thu hút hàng triệu lượt xem trên TikTok.
Một số công cụ đã sử dụng AI để gắn thẻ cảnh báo cho các hành vi đáng ngờ, sử dụng thuật toán nhận dạng khuôn mặt kiểm tra để đảm bảo sinh viên vẫn đang ngồi và không có ai vào phòng. Những phần mềm này còn các định các chuyển động bất thường, giọng nói thì thầm phản ánh hành vi gian lận.
Sau khi phát hiện và đánh dấu những sự cố này, giám thị kỳ thi có thể điều tra thêm bằng cách xem video và âm thanh được lưu trữ và chất vấn học sinh.
Việc gian lận sẽ không công bằng đối với những học sinh trung thực và nếu vấn đề gian lận không được kiểm soát từ ban đầu, sẽ làm tăng động cơ gian lận trong giới sinh viên. Các công ty bán các phần mềm giám sát này cũng tuyên bố rằng các công cụ của họ thực sự đã ngăn chặn gian lận và cải thiện sự công bằng trong kỳ thi cho tất cả mọi người, nhưng vẫn còn rất nhiều câu hỏi đặt ra.
Chúng tôi đã đánh giá các phần mềm và nhận thấy rằng những thủ thuật đơn giản của con người vẫn vượt qua được nhiều biện pháp bảo vệ chống gian lận. Phát hiện này cho thấy rằng các công cụ chỉ cung cấp những lợi ích có phần hạn chế.
Việc yêu cầu học sinh sinh viên cài đặt những phần mềm có khả năng kiểm soát mạnh mẽ đối với máy tính của họ thực sự mang đến nhiều rủi ro bảo mật, một số trường hợp khác là việc nó vẫn tồn tại ngay cả khi sinh viên đã gỡ cài đặt nó ra khỏi hệ thống.
Quyền truy cập
Một số học sinh sẽ không thể truy cập vào các thiết bị phù hợp hay kết nối internet mà phần mềm yêu cầu. Điều này dẫn đến các vấn đề kỹ thuật gây ra căng thẳng và bất lợi cho học sinh.
Sự công bằng và thiên vị
Những phần mềm Proctoring làm dấy lên những lo ngại về tính công bằng của các kỳ thì. Vì các thuật toán nhận dạng khuôn mặt trong phần mềm chúng tôi đánh giá không phải lúc nào cũng chính xác. Trong một báo cáo sắp xuất bản từ nhóm nghiên cứu của chúng tôi cho thấy các thuật toán nhận dạng khuôn mặt được sử dụng từ các công ty sản xuất phần mềm tại Hoa Kỳ cũng không hoạt động tốt, cụ thể là cách nhận dạng đối với một khuôn mặt da den khác với những khuôn mặt người da trắng có sự khác nhau. Đó chính là nguồn gốc tạo ra vấn đề phân biệt đối xử tiềm ẩn làm tăng thêm thành kiến xã hội.
Các thuật toán giám sát khác cũng có thể gắn sai thẻ đối với các chuyển chuyển động trên khuôn mặt vốn không điển hình ở người tham gia thi. Điều này sẽ dẫn đến những nghi ngờ thiếu chính xác đối với một số sinh viên cá biệt hay những người có dáng ngồi khác biệt.
Điều tra những nghi ngờ vô căn cứ
Trên thực tế thì các cơ sở giáo dục có thẻ chọn sử dụng hoặc từ chối các tính năng giám sát tự động, còn các công ty sản xuất phần mềm AI có thể gắn thẻ sai cho những hành vi bình thường, không phản ánh được sự thiếu trung thực.
Việc điều tra hay thẩm vấn một học sinh tự nó đã là không công bằng và gây tổn thương vì những nghi ngờ do máy móc tạo ra.
Thói quen kiểm soát
Cuối cùng, phải nhấn mạnh rằng việc sử dụng các phần mềm giám thị tự động sẽ đặt ra một tiền lệ xấu và làm cho chúng ảnh hưởng rộng rãi, theo đó sẽ làm gia tăng mối quan tâm của công chúng về việc giám sát và ra quyết định tự động. Vì thế chúng ta nên đặc biệt thận trọng khi giới thiệu các công nghệ có khả năng gây hại, đặc biệt khi chúng được áp dụng mà không có sự đồng ý.
Việc giám sát bằng phần mềm cũng có thể đưa ra các phương án thay thế có ý nghĩa như các phương án ngồi thi trực tiếp. Trong khi các các phần mềm giám thị này được cùng như một loại thuốc chữa bách bệnh thì cần phải nghiêm túc cân nhắc những rủi ro mà nó mang lại.
Nguồn: TheNextWeb
Các trường đại học đang có xu hướng sử dụng ngày càng nhiều phần mềm máy tính để giám sát sinh viên trong kỳ thi trực tuyến. Liệu đây là có phải là những thử nghiệm cho một tương lai mà trí tuệ nhân tạo giám sát trong các trường học?
Những công nghệ giám sát sẽ giúp theo dõi học sinh làm bài ngay cả khi họ ở nhà, thay vì phải ngồi trong môi trường thi cử truyền thống. Những phần mềm chống gian lần này tinh vi ở chỗ, chúng chiếm quyền điều khiển máy tính của học sinh để chặn và theo dõi những hoạt động đáng ngờ. Các chương trình này thường sử dụng trí tuệ nhân tạo (AI) để xem xét kỹ lưỡng về ý thức và đạo đức học sinh trong kỳ thi.
Nhiều tổ chức giáo dục tuyến bố phải có công nghệ theo dõi để ngăn chặn gian lận, số khác cùng sinh viên lại lo ngại về những nguy cơ tiềm ẩn. Tại nhiều trường học trên thế giới, sinh viên đã phát động các cuộc biểu tình, lên án về việc sử dụng AI giám sát trực tuyến nhằm xâm phạm quyền riêng tư của họ, cho rằng đó là phân biệt đối xử. Các công ty giám sát đã phản ứng lại bằng nhiều nỗ lực phản đối, bao gồm cả việc kiện những người chỉ trích.
Lời phàn nàn của một sinh viên rằng AI đánh dấu sai trong bài kiểm tra là gian lận đã thu hút hàng triệu lượt xem trên TikTok.
Những phần mềm giám thị trực tuyến này đang làm gì
Các phần mềm giám thị trực tuyến tự động (phần mềm Proctoring) cung cấp các công cụ nhằm ngăn chặn việc gian lận, nắm bắt thông tin máy tính của sinh viên, chặn truy cập web và phân tích các thao tác bàn phím. Ngoài ra những chương trình này còn có khả năng điều khiển máy ảnh máy tính và micrô để ghi lại hình ảnh những người có thể ở gần giúp đỡ cho sinh viên khi họ đang làm bài.Một số công cụ đã sử dụng AI để gắn thẻ cảnh báo cho các hành vi đáng ngờ, sử dụng thuật toán nhận dạng khuôn mặt kiểm tra để đảm bảo sinh viên vẫn đang ngồi và không có ai vào phòng. Những phần mềm này còn các định các chuyển động bất thường, giọng nói thì thầm phản ánh hành vi gian lận.
Sau khi phát hiện và đánh dấu những sự cố này, giám thị kỳ thi có thể điều tra thêm bằng cách xem video và âm thanh được lưu trữ và chất vấn học sinh.
Tạo sao các phần mềm AI này được sử dụng rộng rãi
Các phần mềm giám sát AI có mục đích hạn chế những gian lận trong các kỳ thi được tổ chức từ xa - một điều cần thiết trong thời kỳ đại dịch. Một kỳ thi công bằng sẽ bảo vệ giá trị của bằng cấp cũng như để nhấn mạnh sự trung thực trong học tập là rất quan trọng, và còn quan trọng hơn nữa trong các lĩnh vực chuyên môn như y học và luật.Việc gian lận sẽ không công bằng đối với những học sinh trung thực và nếu vấn đề gian lận không được kiểm soát từ ban đầu, sẽ làm tăng động cơ gian lận trong giới sinh viên. Các công ty bán các phần mềm giám sát này cũng tuyên bố rằng các công cụ của họ thực sự đã ngăn chặn gian lận và cải thiện sự công bằng trong kỳ thi cho tất cả mọi người, nhưng vẫn còn rất nhiều câu hỏi đặt ra.
Những vấn đề đặt ra ở đây là gì?
Bảo mậtChúng tôi đã đánh giá các phần mềm và nhận thấy rằng những thủ thuật đơn giản của con người vẫn vượt qua được nhiều biện pháp bảo vệ chống gian lận. Phát hiện này cho thấy rằng các công cụ chỉ cung cấp những lợi ích có phần hạn chế.
Việc yêu cầu học sinh sinh viên cài đặt những phần mềm có khả năng kiểm soát mạnh mẽ đối với máy tính của họ thực sự mang đến nhiều rủi ro bảo mật, một số trường hợp khác là việc nó vẫn tồn tại ngay cả khi sinh viên đã gỡ cài đặt nó ra khỏi hệ thống.
Quyền truy cập
Một số học sinh sẽ không thể truy cập vào các thiết bị phù hợp hay kết nối internet mà phần mềm yêu cầu. Điều này dẫn đến các vấn đề kỹ thuật gây ra căng thẳng và bất lợi cho học sinh.
Sự công bằng và thiên vị
Những phần mềm Proctoring làm dấy lên những lo ngại về tính công bằng của các kỳ thì. Vì các thuật toán nhận dạng khuôn mặt trong phần mềm chúng tôi đánh giá không phải lúc nào cũng chính xác. Trong một báo cáo sắp xuất bản từ nhóm nghiên cứu của chúng tôi cho thấy các thuật toán nhận dạng khuôn mặt được sử dụng từ các công ty sản xuất phần mềm tại Hoa Kỳ cũng không hoạt động tốt, cụ thể là cách nhận dạng đối với một khuôn mặt da den khác với những khuôn mặt người da trắng có sự khác nhau. Đó chính là nguồn gốc tạo ra vấn đề phân biệt đối xử tiềm ẩn làm tăng thêm thành kiến xã hội.
Các thuật toán giám sát khác cũng có thể gắn sai thẻ đối với các chuyển chuyển động trên khuôn mặt vốn không điển hình ở người tham gia thi. Điều này sẽ dẫn đến những nghi ngờ thiếu chính xác đối với một số sinh viên cá biệt hay những người có dáng ngồi khác biệt.
Điều tra những nghi ngờ vô căn cứ
Trên thực tế thì các cơ sở giáo dục có thẻ chọn sử dụng hoặc từ chối các tính năng giám sát tự động, còn các công ty sản xuất phần mềm AI có thể gắn thẻ sai cho những hành vi bình thường, không phản ánh được sự thiếu trung thực.
Việc điều tra hay thẩm vấn một học sinh tự nó đã là không công bằng và gây tổn thương vì những nghi ngờ do máy móc tạo ra.
Thói quen kiểm soát
Cuối cùng, phải nhấn mạnh rằng việc sử dụng các phần mềm giám thị tự động sẽ đặt ra một tiền lệ xấu và làm cho chúng ảnh hưởng rộng rãi, theo đó sẽ làm gia tăng mối quan tâm của công chúng về việc giám sát và ra quyết định tự động. Vì thế chúng ta nên đặc biệt thận trọng khi giới thiệu các công nghệ có khả năng gây hại, đặc biệt khi chúng được áp dụng mà không có sự đồng ý.
Vậy đâu là giải pháp?
Quan trọng nhất vẫn là một giải pháp quản lý các kỳ thi từ xa một cách công bằng. Các trường học và các tổ chức khi sử dụng phần mềm giám thị trực tuyến cần phải chịu trách nhiệm về những gì họ làm, tức là sự minh bạch với sinh viên về cách thức hoạt động của công nghệ và những gì có thể xảy ra với sinh viên của họ.Việc giám sát bằng phần mềm cũng có thể đưa ra các phương án thay thế có ý nghĩa như các phương án ngồi thi trực tiếp. Trong khi các các phần mềm giám thị này được cùng như một loại thuốc chữa bách bệnh thì cần phải nghiêm túc cân nhắc những rủi ro mà nó mang lại.
Nguồn: TheNextWeb
