VNR Content
Pearl
Tóm tắt nội dung:
Trên thực tế, bố của Rory là giám đốc đài truyền hình BBC và mẹ anh cũng làm việc tại BBC. Một ngày nọ, anh phát hiện ra những câu chuyện xúc động của cha mẹ mình trong chiếc hộp đựng giày đựng những lá thư, từ đó phát hiện ra sự thật về lịch sử gia đình mình.
Về phần tiểu sử về mình, Rory chưa bao giờ nghe nói đến người viết tiểu sử, nhưng anh sớm phát hiện ra rằng cuốn sách được tạo ra bởi AI.
Trải nghiệm của Rory không phải là duy nhất. Theo nhiều báo cáo phương tiện truyền thông nước ngoài, sách do AI tạo ra đang tràn ngập Amazon, từ tiểu sử, sách nấu ăn, sách khoa học phổ thông đến sách hướng dẫn du lịch... Một số thông tin sai lệch trong một số cuốn sách này thậm chí có thể nguy hiểm đến tính mạng.
Hiệp hội Nấm học New York (NYMS) đã công khai tuyên bố rằng nhiều loại nấm do AI tạo ra đang tìm kiếm các cuốn sách khoa học phổ biến trên Amazon và các nền tảng thương mại điện tử khác chứa nhiều mô tả sai lầm, có thể khiến công chúng hiểu lầm về việc ăn nấm độc, "có nghĩa là sự sống và cái chết".
Vào tháng 6, tác giả Caitlin Lynch đã đăng trên các nền tảng xã hội, chỉ ra rằng trong số 100 sách điện tử lãng mạn đương đại dành cho thanh thiếu niên bán chạy nhất trên Amazon, chỉ có 19 cuốn là sách bình thường và số còn lại là “vô nghĩa” do AI tạo ra.
Cô còn đính kèm ảnh chụp màn hình cuốn sách Chờ Em Yêu Anh, trên bìa có bức ảnh đen trắng chụp một con hải âu. Trước đó, cuốn sách được xếp ở vị trí thứ 90 trong danh sách 100 cuốn sách bán chạy nhất của Amazon ở hạng mục Lãng mạn đương đại dành cho tuổi teen. Hai đánh giá một sao dưới đây cũng chỉ ra rằng đây là cuốn sách được tạo ra bởi AI.
“AI đã giết chết Amazon”, Lynch tweet.
Theo báo cáo của New York Times vào tháng 8, hướng dẫn du lịch cũng đã trở thành một trong những danh mục chính mà sách AI tràn ngập. Vào tháng 3, du khách Amy Korsky đã mua một cuốn sách hướng dẫn du lịch trên Amazon cho chuyến đi sắp tới của cô tới Pháp. Khi cô nhập một vài từ khóa tìm kiếm “du lịch”, “sách hướng dẫn” và “Pháp”, một “Hướng dẫn du lịch Pháp” được xếp hạng hàng đầu đã thu hút sự chú ý của cô.
Theo trang tác giả, tác giả cuốn sách Mike Steves là một “nhà văn du lịch nổi tiếng”. Có hơn một trăm bài đánh giá năm sao trên giao diện của cuốn sách và hướng dẫn cũng hứa hẹn về các hành trình và đề xuất từ người dân địa phương. Vì vậy Amy Kolsky đã đặt hàng.
Thật thất vọng, khi nhận sách, cô thấy phần mô tả mơ hồ, văn bản lặp đi lặp lại và hành trình thiếu lịch trình giống như được sao chép và dán từ Wikipedia. Cô trả lại cuốn sách.
Tờ New York Times phát hiện ra rằng mọi chuyện không hề đơn giản. Họ không thể tìm thấy bất kỳ tác phẩm nào đã xuất bản trước đó của người được gọi là "tác giả" của cuốn sách, ngay cả bức ảnh của "tác giả" trên giao diện cũng trông kỳ lạ, chẳng hạn như các yếu tố bất thường gần tai, quần áo xiêu vẹo, v.v. dường như là những bức ảnh do AI tạo ra.
Cuốn sách của Mike Steves gần như chắc chắn là do AI tạo ra, theo kết quả từ công cụ phát hiện AI Originality.ai. Ngoài ra, tờ New York Times nhận thấy sách do AI tạo ra cũng đã bắt đầu thâm nhập vào lĩnh vực nấu ăn, lập trình, y học, làm vườn và nhiều chuyên mục khác.
Theo nhiều báo cáo phương tiện truyền thông, sách do AI tạo ra không chỉ mang đến thông tin sai lệch cho người đọc mà còn gây rắc rối lớn cho các tác giả thực sự. Vào tháng 8, nhà văn Jane Friedman tuyên bố trên blog của mình rằng một số "sách rác" đã được tải lên Amazon. Tên của cô được liệt kê trong cột tác giả, nhưng cô không viết những cuốn sách này. Chúng cực kỳ sai lệch. Rất có thể do AI tạo ra.
Cô ấy đã viết blog từ năm 2009 và phần lớn nội dung được công khai và có thể được sử dụng để đào tạo mô hình AI. Vì vậy, khi cô ấy đọc trang đầu tiên của những "cuốn sách giả" này, có vẻ như cô ấy đang đọc một câu trả lời ChatGPT do chính cô ấy tạo ra. Tệ hơn nữa, những "cuốn sách giả" này đã được thêm vào hồ sơ Goodreads của cô, điều này có thể dễ dàng gây hiểu nhầm.
Sau khi cô phàn nàn về vụ việc trên mạng xã hội, một số tác giả trả lời rằng họ cũng từng gặp phải trải nghiệm tương tự. Một tác giả cho biết: “Mọi người cứ nói với tôi rằng họ đã mua cuốn sách mới của tôi và nó có tên tôi trên đó nhưng tôi chưa bao giờ viết nó”. Một số tác giả đã báo cáo 29 cuốn sách có tình huống tương tự chỉ trong một tuần.
“Điều đáng sợ là điều này có thể xảy ra với bất kỳ ai có danh tiếng, địa vị, nhu cầu và ai đó tìm ra cách kiếm lợi từ nó”. Trong cuộc phỏng vấn với CNN, Jane Fried Mann nói.
Rory nói với Guardian: “Về cơ bản, họ đang cho phép 'sách rác' tồn tại và giới thiệu chúng với những người ghét chúng nhất”. Mặc dù sau đó Amazon đã loại bỏ cuốn sách này nhưng nhiều đầu sách đã vượt qua hệ thống lọc được thiết kế để loại bỏ những cuốn sách có chất lượng thấp.
Trên thực tế, sự xuất hiện của nhiều cuốn sách do AI tạo ra trên nền tảng Amazon có liên quan nhiều đến việc lạm dụng hệ thống tự xuất bản KDP (Kindle Direct Publishing) của chính hãng này. Năm 2007, Amazon tạo ra KDP để cho phép mọi người tự xuất bản và bán sách trên Amazon. Hiện tại, nó cung cấp hơn 45 tùy chọn ngôn ngữ.
Trên nền tảng Amazon KDP, tác giả có thể tự do lựa chọn tự xuất bản sách điện tử hoặc sách giấy, sau khi hoàn tất quá trình upload sách tự xuất bản, Amazon có thể vượt qua khâu xét duyệt và bán chúng trong khoảng 72 giờ. Việc tự xuất bản sách trên nền tảng này là miễn phí, tuy nhiên, nếu xuất bản sách thực, chi phí in ấn sẽ được khấu trừ vào tiền bản quyền thu được từ mỗi lần bán sách. Nói chung, tác giả có thể nhận được tiền bản quyền lên tới 60% đối với sách giấy và 35% hoặc 70% đối với sách điện tử.
Ngoài ra, với sự phát triển của công nghệ trí tuệ nhân tạo, nhiều hướng dẫn sử dụng AI để tạo sách đã xuất hiện trên các nền tảng như YouTube và TikTok, với các chủ đề từ Sự tiện lợi và lợi ích của chức năng tự xuất bản của Amazon, khó tránh khỏi sự lạm dụng chức năng này để xuất bản và bán sách AI.
Sau khi nhận được khiếu nại từ nhiều tác giả, Amazon đã đưa ra các quy tắc và hướng dẫn mới trên trang cộng đồng KDP của mình vào tháng 9. Quy định mới yêu cầu tác giả trả lời các câu hỏi của hệ thống về việc tác phẩm có được tạo ra bởi trí tuệ nhân tạo hay không khi xuất bản tác phẩm của họ. Trong phần hướng dẫn nội dung của mình, Amazon cũng đã bổ sung thêm nội dung về AI, bao gồm các định nghĩa về “do AI tạo ra” và “được hỗ trợ bởi AI”.
Theo Guardian, Amazon đã đưa ra các quy định mới giới hạn người tự xuất bản tối đa ba cuốn sách mỗi ngày do lo ngại về trí tuệ nhân tạo.
Nhưng ngay cả khi các quy định mới đã được ban hành, một số tác động đã gây ra. Sau vụ bê bối Jane Friedman, những cuốn sách mang tên cô đã bị xóa khỏi Amazon và hồ sơ Goodreads của cô. Nhưng quá trình này không suôn sẻ và ban đầu Amazon từ chối ngừng bán sách. Jane Friedman tin rằng cuối cùng thì sự nổi tiếng và danh tiếng của cô trong giới viết lách và xuất bản đã thúc đẩy Amazon thu hồi sách.
“Với vô số nội dung do AI cung cấp được đăng trên Amazon hiện nay, đôi khi có sự ghi nhận tác giả sai lệch hoặc gian lận, làm sao các tác giả đang làm việc có thể dành thời gian mỗi tuần trong suốt quãng đời còn lại của họ để kiểm soát nội dung này?” cô hỏi.
Và ngay cả khi những cuốn sách đó không còn xuất hiện trên trang Amazon hoặc Goodreads của cô ấy nữa thì tác động của chúng vẫn còn. Jane Friedman đã viết trên blog của mình: "Thật không may, ngay cả khi bạn xóa những cuốn sách điên rồ này khỏi hồ sơ chính thức của mình, chúng vẫn sẽ mang tên bạn... và bạn không biết gì về điều đó. Nhưng chúng tôi không thể làm gì được".
- Phát hiện nhiều cuốn sách, bao gồm tiểu sử, sách nấu ăn, sách khoa học, và hướng dẫn du lịch, được tạo ra bởi AI và xuất bản trên Amazon và các nền tảng thương mại điện tử khác.
- Các cuốn sách này thường chứa thông tin sai lệch, có thể gây hiểu lầm và nguy cơ đối với người đọc, ví dụ như sách hướng dẫn nấu ăn sai lệch có thể gây nguy hiểm đến tính mạng.
- Nhiều tác giả thực sự bị ảnh hưởng khi những cuốn sách giả có tên họ bắt đầu xuất hiện trên các nền tảng điện tử, và họ phải đối mặt với việc người đọc nhầm lẫn và cả sự đe dọa đến danh tiếng của họ.
- Các quy định mới của Amazon nhằm hạn chế tác động của sách do AI tạo ra, nhưng vẫn còn nhiều thách thức trong việc kiểm soát hiện tượng này.
“AI đang viết tiểu sử của tôi?”
Khi Rory Theran-Jones phát hiện ra tiểu sử của mình trên Amazon, anh đã có một câu hỏi kỳ lạ. Anh lật qua một phần cuốn sách thì thấy anh sống trong một gia đình trí thức, bố là một học giả niềm nở còn mẹ là giáo viên. Anh nói với Guardian rằng cuốn sách gần như có thể so sánh với cuốn hồi ký của chính ông, ngoại trừ thông tin trong đó là "hoàn toàn giả tưởng".Trên thực tế, bố của Rory là giám đốc đài truyền hình BBC và mẹ anh cũng làm việc tại BBC. Một ngày nọ, anh phát hiện ra những câu chuyện xúc động của cha mẹ mình trong chiếc hộp đựng giày đựng những lá thư, từ đó phát hiện ra sự thật về lịch sử gia đình mình.
Về phần tiểu sử về mình, Rory chưa bao giờ nghe nói đến người viết tiểu sử, nhưng anh sớm phát hiện ra rằng cuốn sách được tạo ra bởi AI.
Trải nghiệm của Rory không phải là duy nhất. Theo nhiều báo cáo phương tiện truyền thông nước ngoài, sách do AI tạo ra đang tràn ngập Amazon, từ tiểu sử, sách nấu ăn, sách khoa học phổ thông đến sách hướng dẫn du lịch... Một số thông tin sai lệch trong một số cuốn sách này thậm chí có thể nguy hiểm đến tính mạng.
Hiệp hội Nấm học New York (NYMS) đã công khai tuyên bố rằng nhiều loại nấm do AI tạo ra đang tìm kiếm các cuốn sách khoa học phổ biến trên Amazon và các nền tảng thương mại điện tử khác chứa nhiều mô tả sai lầm, có thể khiến công chúng hiểu lầm về việc ăn nấm độc, "có nghĩa là sự sống và cái chết".
AI đã giết chết Amazon
Cô còn đính kèm ảnh chụp màn hình cuốn sách Chờ Em Yêu Anh, trên bìa có bức ảnh đen trắng chụp một con hải âu. Trước đó, cuốn sách được xếp ở vị trí thứ 90 trong danh sách 100 cuốn sách bán chạy nhất của Amazon ở hạng mục Lãng mạn đương đại dành cho tuổi teen. Hai đánh giá một sao dưới đây cũng chỉ ra rằng đây là cuốn sách được tạo ra bởi AI.
“AI đã giết chết Amazon”, Lynch tweet.
Theo báo cáo của New York Times vào tháng 8, hướng dẫn du lịch cũng đã trở thành một trong những danh mục chính mà sách AI tràn ngập. Vào tháng 3, du khách Amy Korsky đã mua một cuốn sách hướng dẫn du lịch trên Amazon cho chuyến đi sắp tới của cô tới Pháp. Khi cô nhập một vài từ khóa tìm kiếm “du lịch”, “sách hướng dẫn” và “Pháp”, một “Hướng dẫn du lịch Pháp” được xếp hạng hàng đầu đã thu hút sự chú ý của cô.
Theo trang tác giả, tác giả cuốn sách Mike Steves là một “nhà văn du lịch nổi tiếng”. Có hơn một trăm bài đánh giá năm sao trên giao diện của cuốn sách và hướng dẫn cũng hứa hẹn về các hành trình và đề xuất từ người dân địa phương. Vì vậy Amy Kolsky đã đặt hàng.
Thật thất vọng, khi nhận sách, cô thấy phần mô tả mơ hồ, văn bản lặp đi lặp lại và hành trình thiếu lịch trình giống như được sao chép và dán từ Wikipedia. Cô trả lại cuốn sách.
Tờ New York Times phát hiện ra rằng mọi chuyện không hề đơn giản. Họ không thể tìm thấy bất kỳ tác phẩm nào đã xuất bản trước đó của người được gọi là "tác giả" của cuốn sách, ngay cả bức ảnh của "tác giả" trên giao diện cũng trông kỳ lạ, chẳng hạn như các yếu tố bất thường gần tai, quần áo xiêu vẹo, v.v. dường như là những bức ảnh do AI tạo ra.
Cuốn sách của Mike Steves gần như chắc chắn là do AI tạo ra, theo kết quả từ công cụ phát hiện AI Originality.ai. Ngoài ra, tờ New York Times nhận thấy sách do AI tạo ra cũng đã bắt đầu thâm nhập vào lĩnh vực nấu ăn, lập trình, y học, làm vườn và nhiều chuyên mục khác.
Theo nhiều báo cáo phương tiện truyền thông, sách do AI tạo ra không chỉ mang đến thông tin sai lệch cho người đọc mà còn gây rắc rối lớn cho các tác giả thực sự. Vào tháng 8, nhà văn Jane Friedman tuyên bố trên blog của mình rằng một số "sách rác" đã được tải lên Amazon. Tên của cô được liệt kê trong cột tác giả, nhưng cô không viết những cuốn sách này. Chúng cực kỳ sai lệch. Rất có thể do AI tạo ra.
Cô ấy đã viết blog từ năm 2009 và phần lớn nội dung được công khai và có thể được sử dụng để đào tạo mô hình AI. Vì vậy, khi cô ấy đọc trang đầu tiên của những "cuốn sách giả" này, có vẻ như cô ấy đang đọc một câu trả lời ChatGPT do chính cô ấy tạo ra. Tệ hơn nữa, những "cuốn sách giả" này đã được thêm vào hồ sơ Goodreads của cô, điều này có thể dễ dàng gây hiểu nhầm.
Sau khi cô phàn nàn về vụ việc trên mạng xã hội, một số tác giả trả lời rằng họ cũng từng gặp phải trải nghiệm tương tự. Một tác giả cho biết: “Mọi người cứ nói với tôi rằng họ đã mua cuốn sách mới của tôi và nó có tên tôi trên đó nhưng tôi chưa bao giờ viết nó”. Một số tác giả đã báo cáo 29 cuốn sách có tình huống tương tự chỉ trong một tuần.
“Điều đáng sợ là điều này có thể xảy ra với bất kỳ ai có danh tiếng, địa vị, nhu cầu và ai đó tìm ra cách kiếm lợi từ nó”. Trong cuộc phỏng vấn với CNN, Jane Fried Mann nói.
Trên thực tế, nó đang cho phép tồn tại 'sách rác'
Sau khi Rory phát hiện ra rằng tiểu sử của anh ấy được tạo ra bởi AI, Amazon đã gửi cho anh ấy một email giới thiệu: “Bạn có thể thích cuốn sách này”. Điều này khiến Rory tức giận vì thuật toán của Amazon cho rằng đây là cuốn sách mà anh muốn.Rory nói với Guardian: “Về cơ bản, họ đang cho phép 'sách rác' tồn tại và giới thiệu chúng với những người ghét chúng nhất”. Mặc dù sau đó Amazon đã loại bỏ cuốn sách này nhưng nhiều đầu sách đã vượt qua hệ thống lọc được thiết kế để loại bỏ những cuốn sách có chất lượng thấp.
Trên thực tế, sự xuất hiện của nhiều cuốn sách do AI tạo ra trên nền tảng Amazon có liên quan nhiều đến việc lạm dụng hệ thống tự xuất bản KDP (Kindle Direct Publishing) của chính hãng này. Năm 2007, Amazon tạo ra KDP để cho phép mọi người tự xuất bản và bán sách trên Amazon. Hiện tại, nó cung cấp hơn 45 tùy chọn ngôn ngữ.
Trên nền tảng Amazon KDP, tác giả có thể tự do lựa chọn tự xuất bản sách điện tử hoặc sách giấy, sau khi hoàn tất quá trình upload sách tự xuất bản, Amazon có thể vượt qua khâu xét duyệt và bán chúng trong khoảng 72 giờ. Việc tự xuất bản sách trên nền tảng này là miễn phí, tuy nhiên, nếu xuất bản sách thực, chi phí in ấn sẽ được khấu trừ vào tiền bản quyền thu được từ mỗi lần bán sách. Nói chung, tác giả có thể nhận được tiền bản quyền lên tới 60% đối với sách giấy và 35% hoặc 70% đối với sách điện tử.
Ngoài ra, với sự phát triển của công nghệ trí tuệ nhân tạo, nhiều hướng dẫn sử dụng AI để tạo sách đã xuất hiện trên các nền tảng như YouTube và TikTok, với các chủ đề từ Sự tiện lợi và lợi ích của chức năng tự xuất bản của Amazon, khó tránh khỏi sự lạm dụng chức năng này để xuất bản và bán sách AI.
Sau khi nhận được khiếu nại từ nhiều tác giả, Amazon đã đưa ra các quy tắc và hướng dẫn mới trên trang cộng đồng KDP của mình vào tháng 9. Quy định mới yêu cầu tác giả trả lời các câu hỏi của hệ thống về việc tác phẩm có được tạo ra bởi trí tuệ nhân tạo hay không khi xuất bản tác phẩm của họ. Trong phần hướng dẫn nội dung của mình, Amazon cũng đã bổ sung thêm nội dung về AI, bao gồm các định nghĩa về “do AI tạo ra” và “được hỗ trợ bởi AI”.
Theo Guardian, Amazon đã đưa ra các quy định mới giới hạn người tự xuất bản tối đa ba cuốn sách mỗi ngày do lo ngại về trí tuệ nhân tạo.
Nhưng ngay cả khi các quy định mới đã được ban hành, một số tác động đã gây ra. Sau vụ bê bối Jane Friedman, những cuốn sách mang tên cô đã bị xóa khỏi Amazon và hồ sơ Goodreads của cô. Nhưng quá trình này không suôn sẻ và ban đầu Amazon từ chối ngừng bán sách. Jane Friedman tin rằng cuối cùng thì sự nổi tiếng và danh tiếng của cô trong giới viết lách và xuất bản đã thúc đẩy Amazon thu hồi sách.
“Với vô số nội dung do AI cung cấp được đăng trên Amazon hiện nay, đôi khi có sự ghi nhận tác giả sai lệch hoặc gian lận, làm sao các tác giả đang làm việc có thể dành thời gian mỗi tuần trong suốt quãng đời còn lại của họ để kiểm soát nội dung này?” cô hỏi.
Và ngay cả khi những cuốn sách đó không còn xuất hiện trên trang Amazon hoặc Goodreads của cô ấy nữa thì tác động của chúng vẫn còn. Jane Friedman đã viết trên blog của mình: "Thật không may, ngay cả khi bạn xóa những cuốn sách điên rồ này khỏi hồ sơ chính thức của mình, chúng vẫn sẽ mang tên bạn... và bạn không biết gì về điều đó. Nhưng chúng tôi không thể làm gì được".
