Trong bộ phim truyền hình hồi hộp Truth Capture của Anh, các cơ quan tình báo đã giả mạo các video giám sát để kết tội tội phạm.
Họ tin rằng việc làm sai lệch video giám sát chỉ là "tái hiện" các bằng chứng bất hợp pháp như tài liệu nghe lén thành bằng chứng hợp pháp.
Nhưng không ai biết liệu những người sử dụng công nghệ có vượt quá giới hạn hay không. Rốt cuộc, chỉ còn một bước nữa là rời xa bản chất con người, từ việc giả hoa cỏ đến việc tạo ra thứ gì đó từ con số không, từ việc trở thành mục tiêu cho đến sự giả mạo bừa bãi.
Khi AI đang phát triển nhanh chóng, một thế giới như vậy có thể không còn xa với chúng ta.
Tuần trước, hàng chục bức ảnh chụp Trump bị bắt lan truyền trên Twitter, ghi lại toàn bộ quá trình Trump bị cầm tù, từ bị ghì xuống đất khi ông bước ra khỏi tòa nhà trong bộ vest và cà vạt, cho đến suy nghĩ bên hàng rào thép gai trong bộ đồng phục tù nhân.
Tuy nhiên, đây chỉ là những bức ảnh do AI tạo ra.
Tài khoản của kẻ chủ mưu Eliot Higgins đã bị khoa (hiện đã hoạt động trở lại bình thường) và từ "bị bắt" đã bị Twitter chặn.
Cuối tuần qua, đến lượt đưa Giáo hoàng Francis ra ngoài trong chiếc áo khoác phong cách rap, phong cách DJ và trông như sắp phát hành album.
Dòng tweet này đã được xem hơn 26 triệu lần và được chuyển tiếp hơn 30.000 lần, điều này đã đánh lừa nhiều người. Sau đó, mô tả về "Ảnh do AI tạo" đã được thêm vào ở cuối ảnh.
Một số cư dân mạng Twitter tin rằng vụ việc này là trường hợp thông tin sai lệch về AI thực sự quy mô lớn đầu tiên có thể được ghi vào lịch sử.
Nhiều ảnh giả AI sau đó ồ ạt xuất hiện. Trump về quê kéo xích lô trên phố; giáo hoàng khoác áo lông vũ đi biển; người ngoài hành tinh trải đời, đi làm một ngày rồi say muộn vào ban đêm...
Hầu hết những bức ảnh về người nổi tiếng trong thế giới song song này đều đến từ công cụ vẽ tranh AI phiên bản MidJourney V5.
Mô hình phiên bản V5 có thể tạo ra hình ảnh chất lượng cao và chân thực hơn so với phiên bản V4, đồng thời có nhiều tùy chọn tùy chỉnh hơn và tốc độ kết xuất nhanh hơn, đây là một trong những công cụ vẽ AI cấp cao nhất hiện nay.
Điểm trực quan nhất là về cơ bản nó đã giải quyết được vấn đề mà trước đây AI không thể vẽ ngón tay tốt và con người đã mất đi một cách khác để phân biệt giữa đúng và sai. (Nhân tiện, phiên bản V1 được phát hành vào tháng 7/ 2022, cho thấy tốc độ lặp lại nhanh)
Nhập từ gợi ý (prompt words) không khó, tên của một danh nhân nào đó cộng với hành động, địa điểm,… có thể tạo thành một bức tranh.
Có nhiều bức ảnh trên có thể dễ dàng ra là fake nhưng sẽ có những phiên bản cao cấp hơn, rực rỡ hơn.
Tuần trước, bức ảnh chụp một cặp đôi người Trung Quốc do Midjourney tạo ra đã gây sốt trên Internet.
Cách đây vài ngày, cư dân mạng Reddit đã đăng tải chùm ảnh thời sự, ghi lại trận động đất 9,1 độ richter và sóng thần xảy ra ở Cascadia, bờ biển phía Tây Bắc Mỹ vào năm 2001.
Bạn có thể thấy mọi góc độ của thảm họa: sự phá hủy của những ngôi nhà tại hiện trường, những con sóng dâng cao, vẻ mặt kinh hoàng của những người bị mắc kẹt tại sân bay, lực lượng cứu hộ cố gắng giải cứu những người sống sót bị mắc kẹt khỏi đống đổ nát và các phóng viên tin tức vội vã đến phát sóng trực tiếp.
Tông màu, trang phục và bối cảnh của cả nhóm ảnh đều mang hơi hướng của đầu thế kỷ. Một số trong số chúng trông "nghiệp dư", như thể chúng được người dân địa phương tình cờ chụp, nhưng những bức ảnh như vậy thường được coi là thông tin quý giá.
Tuy nhiên, bộ ảnh này cũng được tạo bằng Midjourney và thảm họa đã không tồn tại.
Tương tự, cư dân mạng Arctic_Chilean đã làm giả sự kiện "siêu bão mặt trời và mất điện ở Mỹ vào tháng 7/2012". Anh ấy cảm thấy rằng MidJourney rất giỏi trong việc nắm bắt tính thẩm mỹ của các đoạn phim tin tức vào đầu năm 2010, đồng thời cũng thể hiện rất tốt trong việc tạo ra các bức ảnh cực quang trên đường chân trời và mốc, nhưng không thể tạo ra cảnh mất điện trong thành phố.
Một cư dân mạng khác, FinewithIX, đã sử dụng AI để tạo ra các bức ảnh trình chiếu về cuộc đổ bộ lên mặt trăng vào năm 1969, bắt chước phong cách phim nhiều hạt hơn vào thời điểm đó.
Loại hình ảnh thời sự thực tế này không có đặc điểm cá nhân riêng biệt của Trump và Giáo hoàng, vì vậy bạn dễ bị mê hoặc hơn.
Từ Deepfake đến Cheapfake
@skyferrori, người đã tạo ra "Giáo hoàng thời trang", đã trả lời phỏng vấn của giới truyền thông sau khi tác phẩm được trình chiếu.
Một công nhân xây dựng 31 tuổi đến từ Chicago sử dụng Midjourney không có mục đích gì, không có ác ý với Giáo hoàng, chỉ để cho vui.
Sự nổi tiếng ngoài mong đợi khiến anh nhận ra tầm ảnh hưởng rộng rãi của AI một cách muộn màng. Những người có động cơ thầm kín thậm chí còn lấy những bức ảnh này để buộc tội Nhà thờ Công giáo về sự xa hoa và lãng phí.
Có lẽ người tạo ra những bức ảnh này đã không nghĩ về điều này trước đây. Thật đáng sợ khi mọi người chấp nhận nó, nghĩ rằng nó có thật và không đặt câu hỏi về nó.
Hầu hết những người chơi hiện tại chỉ đang vui vẻ, nhưng giống như bằng chứng giả mạo và công lý theo thủ tục được khám phá trong Truth Capture, chúng ta không biết khi nào ranh giới bị vượt qua và điểm kết thúc ở đâu.
Trong hầu hết các trường hợp, nội dung khiêu ***, chính trị và tin đồn luôn được đặt lên hàng đầu. Bức ảnh chụp một người phụ nữ trên tàu điện ngầm bị AI lột quần áo chỉ bằng một cú nhấp chuột và nó đã trở thành chủ đề được tìm kiếm nhiều trên Weibo ngày hôm nay, nhưng thủ phạm đã bị AI che giấu. Khi thời gian và địa điểm thích hợp, người bình thường làm sao có thể tự mình phân biệt được.
Tốc độ nhân bản giọng nói đang phát triển cũng đáng sợ không kém.
Những kẻ lừa đảo sử dụng AI để bắt chước giọng nói của các thành viên gia đình bên kia và thực hiện các cuộc gọi lừa đảo để tống tiền, một số trường hợp như vậy đã xảy ra ở Hoa Kỳ.
Công nghệ sao chép giọng nói không phải là hiếm, vấn đề là ngưỡng ngày càng thấp hơn. Như giáo sư Hany Farid của UC Berkeley (Mỹ) đã nói:
Hai năm trước, thậm chí có thể là một năm trước, việc nhân bản giọng nói của con người cần rất nhiều âm thanh. Giờ đây, nếu bạn có một trang Facebook hoặc nếu bạn ghi âm TikTok và giọng nói của bạn kéo dài trong 30 giây, mọi người có thể sao chép giọng nói của bạn.
Chúng thậm chí còn ngày càng rẻ hơn, chẳng hạn như công nghệ sao chép giọng nói của ElevenLabs sẽ không ra mắt cho đến năm 2022 và chi phí cho các dịch vụ liên quan chỉ là 5 USD mỗi tháng.
Với giọng nói và hình ảnh, bạn cũng có thể tạo video hoàn toàn bằng AI. Ai đó đã sử dụng ChatGPT để tạo nội dung lời nói, MidjTHER để tạo hình đại diện, ElevenLabs để tạo giọng nói và D-ID để tạo video hát nhép và tạo một video ngắn hoàn chỉnh.
Bạn đã tìm thấy nó chưa? Chúng ta vẫn có thể tranh cãi về việc liệu một hình ảnh hay một video nào đó có thật hay không, nhưng cốt lõi của vấn đề là tốc độ mà chúng đã phát triển.
Deepfake thay đổi khuôn mặt (giả mạo sâu) có một ngưỡng kỹ thuật nhất định, nhưng bây giờ nếu bạn sẵn sàng dành thời gian để bắt đầu với phần mềm AI, hãy tìm hiểu cách viết lời nhắc của người khác và đăng ký thành viên cộng nhiều nhất, chi phí hàng giả đã thấp hơn trước.
Sau đó, chúng được lan truyền rộng rãi trên các mạng xã hội như Twitter, Reddit, TikTok...
Một số người gọi nó là "Cheapfakes" (giả mạo rẻ tiền), phù hợp với chi phí sản xuất và phổ biến.
The Verge đưa ra quan điểm: AI từng chỉ là một tính năng, và giờ nó đang dần trở thành một sản phẩm.
Điều này phần nào tương tự như khi cố CEO Apple Steve Jobs cài đặt một con chuột và một hệ điều hành có giao diện đồ họa trên một chiếc máy tính Macintosh, đồng thời kết nối một màn hình cảm ứng đa điểm với một chiếc điện thoại thông minh để có thể cất cánh.
Trước đây, chúng ta thường nói rằng không có hình ảnh thì không có sự thật, nhưng trong tương lai gần, hình ảnh sẽ không phải là sự thật và video có thể không phải là sự thật, chúng sẽ không chứng minh được điều gì.
Làm thế nào để tồn tại trong tương lai của công nghệ
Khi đối mặt với công nghệ, nhận thức và pháp luật luôn đi sau một chút. Vẫn còn thời gian để bù đắp cho những sơ hở đã xuất hiện?
Các công ty cung cấp dịch vụ AI đương nhiên sẽ đi đầu.
Cuối tháng 1 năm nay, do có quá nhiều người dùng sử dụng voice cloning để thực hiện các hành vi sai trái, công cụ giọng nói AI ElevenLabs đã thông báo đưa ra các biện pháp bảo vệ mới, trong đó 2 biện pháp quan trọng hơn cả là:
Giới thiệu các công cụ phát hiện AI mới để xác minh rằng một đoạn âm thanh được tạo bằng công nghệ của họ;
Cung cấp một số chức năng nhất định chỉ có tính phí, giảm tính ẩn danh của người dùng để họ "suy nghĩ kỹ";
Phương tiện truyền thông xã hội cũng đang tìm cách giảm sự lan truyền thông tin sai lệch.
TikTok đã thông báo vào tuần trước rằng tất cả Deepfakes hiển thị cảnh thực phải được đánh dấu là sai (giả mạo) hoặc thay đổi (đã thay đổi) và Deepfakes của các nhân vật công chúng không được sử dụng cho mục đích chính trị hoặc thương mại.
Trên thực tế, tranh giả, giọng giả, video giả đã tồn tại từ lâu, trước đây đã có vô số cuộc thảo luận và tranh cãi nhưng cho đến tận ngày nay, chúng mới trở thành một vấn nạn thực sự.
Vào năm 2020, Adobe đã phát hành "Sáng kiến xác thực nội dung" (CAI), với hy vọng tạo ra một hệ thống gắn vĩnh viễn các nguồn và thông tin chi tiết vào hình ảnh bằng chữ ký mật mã và vẫn đang được phát triển.
Bất cứ khi nào ai đó tải xuống, chụp ảnh màn hình, chỉnh sửa hình ảnh, thẻ siêu dữ liệu CAI sẽ cho biết rằng nó đã được xử lý.
Điều này nghe có vẻ rất hữu ích và cũng có thể được sử dụng trong các tác phẩm AI.
Nhưng Adobe cũng chỉ ra rằng cần có nhiều phần cứng và phần mềm hỗ trợ để hệ thống hoạt động hiệu quả, bao gồm máy ảnh hỗ trợ gắn thẻ, công cụ chỉnh sửa ảnh ghi lại chi tiết xử lý, mạng xã hội hiển thị thẻ, v.v.
Điều này liên quan đến hầu hết mọi liên kết từ sản xuất đến phổ biến, và có thể hiểu được mức độ khó khăn của nó.
Giờ đây, vấn đề nan giải của việc làm giả AI cũng tương tự, giống như vô số cuộc thảo luận về Deepfake trong quá khứ, các công ty công nghệ, tổ chức truyền thông và thậm chí mỗi cá nhân đều phải chịu một phần trách nhiệm, nhưng đây chính xác là tình huống lý tưởng khó đạt được.
Sau khi "Giáo hoàng thời trang" bước ra khỏi vòng vây, Chrissy Teigen, người mẫu có gần 13 triệu người hâm mộ trên Twitter, đã than thở:
Tôi nghĩ chiếc áo khoác lông vũ của Giáo hoàng là thật và không nghĩ nhiều về nó. Không có cách nào tôi sẽ tồn tại trong tương lai của công nghệ.
Tốc độ mà AI đang phát triển đã vượt xa cả nhận thức cộng đồng lẫn luật pháp và quy định. Chỉ có thể nói rằng khi chúng ta nhìn thấy một bức tranh nào đó, tốt nhất đừng nên cho rằng nó là thật.
Họ tin rằng việc làm sai lệch video giám sát chỉ là "tái hiện" các bằng chứng bất hợp pháp như tài liệu nghe lén thành bằng chứng hợp pháp.
Nhưng không ai biết liệu những người sử dụng công nghệ có vượt quá giới hạn hay không. Rốt cuộc, chỉ còn một bước nữa là rời xa bản chất con người, từ việc giả hoa cỏ đến việc tạo ra thứ gì đó từ con số không, từ việc trở thành mục tiêu cho đến sự giả mạo bừa bãi.
Khi AI đang phát triển nhanh chóng, một thế giới như vậy có thể không còn xa với chúng ta.
Tuần trước, hàng chục bức ảnh chụp Trump bị bắt lan truyền trên Twitter, ghi lại toàn bộ quá trình Trump bị cầm tù, từ bị ghì xuống đất khi ông bước ra khỏi tòa nhà trong bộ vest và cà vạt, cho đến suy nghĩ bên hàng rào thép gai trong bộ đồng phục tù nhân.
Tài khoản của kẻ chủ mưu Eliot Higgins đã bị khoa (hiện đã hoạt động trở lại bình thường) và từ "bị bắt" đã bị Twitter chặn.
Cuối tuần qua, đến lượt đưa Giáo hoàng Francis ra ngoài trong chiếc áo khoác phong cách rap, phong cách DJ và trông như sắp phát hành album.
Một số cư dân mạng Twitter tin rằng vụ việc này là trường hợp thông tin sai lệch về AI thực sự quy mô lớn đầu tiên có thể được ghi vào lịch sử.
Nhiều ảnh giả AI sau đó ồ ạt xuất hiện. Trump về quê kéo xích lô trên phố; giáo hoàng khoác áo lông vũ đi biển; người ngoài hành tinh trải đời, đi làm một ngày rồi say muộn vào ban đêm...
Mô hình phiên bản V5 có thể tạo ra hình ảnh chất lượng cao và chân thực hơn so với phiên bản V4, đồng thời có nhiều tùy chọn tùy chỉnh hơn và tốc độ kết xuất nhanh hơn, đây là một trong những công cụ vẽ AI cấp cao nhất hiện nay.
Điểm trực quan nhất là về cơ bản nó đã giải quyết được vấn đề mà trước đây AI không thể vẽ ngón tay tốt và con người đã mất đi một cách khác để phân biệt giữa đúng và sai. (Nhân tiện, phiên bản V1 được phát hành vào tháng 7/ 2022, cho thấy tốc độ lặp lại nhanh)
Có nhiều bức ảnh trên có thể dễ dàng ra là fake nhưng sẽ có những phiên bản cao cấp hơn, rực rỡ hơn.
Cách đây vài ngày, cư dân mạng Reddit đã đăng tải chùm ảnh thời sự, ghi lại trận động đất 9,1 độ richter và sóng thần xảy ra ở Cascadia, bờ biển phía Tây Bắc Mỹ vào năm 2001.
Bạn có thể thấy mọi góc độ của thảm họa: sự phá hủy của những ngôi nhà tại hiện trường, những con sóng dâng cao, vẻ mặt kinh hoàng của những người bị mắc kẹt tại sân bay, lực lượng cứu hộ cố gắng giải cứu những người sống sót bị mắc kẹt khỏi đống đổ nát và các phóng viên tin tức vội vã đến phát sóng trực tiếp.
Tuy nhiên, bộ ảnh này cũng được tạo bằng Midjourney và thảm họa đã không tồn tại.
Tương tự, cư dân mạng Arctic_Chilean đã làm giả sự kiện "siêu bão mặt trời và mất điện ở Mỹ vào tháng 7/2012". Anh ấy cảm thấy rằng MidJourney rất giỏi trong việc nắm bắt tính thẩm mỹ của các đoạn phim tin tức vào đầu năm 2010, đồng thời cũng thể hiện rất tốt trong việc tạo ra các bức ảnh cực quang trên đường chân trời và mốc, nhưng không thể tạo ra cảnh mất điện trong thành phố.
Loại hình ảnh thời sự thực tế này không có đặc điểm cá nhân riêng biệt của Trump và Giáo hoàng, vì vậy bạn dễ bị mê hoặc hơn.
Từ Deepfake đến Cheapfake
@skyferrori, người đã tạo ra "Giáo hoàng thời trang", đã trả lời phỏng vấn của giới truyền thông sau khi tác phẩm được trình chiếu.
Một công nhân xây dựng 31 tuổi đến từ Chicago sử dụng Midjourney không có mục đích gì, không có ác ý với Giáo hoàng, chỉ để cho vui.
Có lẽ người tạo ra những bức ảnh này đã không nghĩ về điều này trước đây. Thật đáng sợ khi mọi người chấp nhận nó, nghĩ rằng nó có thật và không đặt câu hỏi về nó.
Hầu hết những người chơi hiện tại chỉ đang vui vẻ, nhưng giống như bằng chứng giả mạo và công lý theo thủ tục được khám phá trong Truth Capture, chúng ta không biết khi nào ranh giới bị vượt qua và điểm kết thúc ở đâu.
Tốc độ nhân bản giọng nói đang phát triển cũng đáng sợ không kém.
Những kẻ lừa đảo sử dụng AI để bắt chước giọng nói của các thành viên gia đình bên kia và thực hiện các cuộc gọi lừa đảo để tống tiền, một số trường hợp như vậy đã xảy ra ở Hoa Kỳ.
Hai năm trước, thậm chí có thể là một năm trước, việc nhân bản giọng nói của con người cần rất nhiều âm thanh. Giờ đây, nếu bạn có một trang Facebook hoặc nếu bạn ghi âm TikTok và giọng nói của bạn kéo dài trong 30 giây, mọi người có thể sao chép giọng nói của bạn.
Chúng thậm chí còn ngày càng rẻ hơn, chẳng hạn như công nghệ sao chép giọng nói của ElevenLabs sẽ không ra mắt cho đến năm 2022 và chi phí cho các dịch vụ liên quan chỉ là 5 USD mỗi tháng.
Với giọng nói và hình ảnh, bạn cũng có thể tạo video hoàn toàn bằng AI. Ai đó đã sử dụng ChatGPT để tạo nội dung lời nói, MidjTHER để tạo hình đại diện, ElevenLabs để tạo giọng nói và D-ID để tạo video hát nhép và tạo một video ngắn hoàn chỉnh.
Bạn đã tìm thấy nó chưa? Chúng ta vẫn có thể tranh cãi về việc liệu một hình ảnh hay một video nào đó có thật hay không, nhưng cốt lõi của vấn đề là tốc độ mà chúng đã phát triển.
Deepfake thay đổi khuôn mặt (giả mạo sâu) có một ngưỡng kỹ thuật nhất định, nhưng bây giờ nếu bạn sẵn sàng dành thời gian để bắt đầu với phần mềm AI, hãy tìm hiểu cách viết lời nhắc của người khác và đăng ký thành viên cộng nhiều nhất, chi phí hàng giả đã thấp hơn trước.
Một số người gọi nó là "Cheapfakes" (giả mạo rẻ tiền), phù hợp với chi phí sản xuất và phổ biến.
The Verge đưa ra quan điểm: AI từng chỉ là một tính năng, và giờ nó đang dần trở thành một sản phẩm.
Trước đây, chúng ta thường nói rằng không có hình ảnh thì không có sự thật, nhưng trong tương lai gần, hình ảnh sẽ không phải là sự thật và video có thể không phải là sự thật, chúng sẽ không chứng minh được điều gì.
Làm thế nào để tồn tại trong tương lai của công nghệ
Khi đối mặt với công nghệ, nhận thức và pháp luật luôn đi sau một chút. Vẫn còn thời gian để bù đắp cho những sơ hở đã xuất hiện?
Các công ty cung cấp dịch vụ AI đương nhiên sẽ đi đầu.
Cuối tháng 1 năm nay, do có quá nhiều người dùng sử dụng voice cloning để thực hiện các hành vi sai trái, công cụ giọng nói AI ElevenLabs đã thông báo đưa ra các biện pháp bảo vệ mới, trong đó 2 biện pháp quan trọng hơn cả là:
Giới thiệu các công cụ phát hiện AI mới để xác minh rằng một đoạn âm thanh được tạo bằng công nghệ của họ;
Cung cấp một số chức năng nhất định chỉ có tính phí, giảm tính ẩn danh của người dùng để họ "suy nghĩ kỹ";
TikTok đã thông báo vào tuần trước rằng tất cả Deepfakes hiển thị cảnh thực phải được đánh dấu là sai (giả mạo) hoặc thay đổi (đã thay đổi) và Deepfakes của các nhân vật công chúng không được sử dụng cho mục đích chính trị hoặc thương mại.
Trên thực tế, tranh giả, giọng giả, video giả đã tồn tại từ lâu, trước đây đã có vô số cuộc thảo luận và tranh cãi nhưng cho đến tận ngày nay, chúng mới trở thành một vấn nạn thực sự.
Vào năm 2020, Adobe đã phát hành "Sáng kiến xác thực nội dung" (CAI), với hy vọng tạo ra một hệ thống gắn vĩnh viễn các nguồn và thông tin chi tiết vào hình ảnh bằng chữ ký mật mã và vẫn đang được phát triển.
Điều này nghe có vẻ rất hữu ích và cũng có thể được sử dụng trong các tác phẩm AI.
Nhưng Adobe cũng chỉ ra rằng cần có nhiều phần cứng và phần mềm hỗ trợ để hệ thống hoạt động hiệu quả, bao gồm máy ảnh hỗ trợ gắn thẻ, công cụ chỉnh sửa ảnh ghi lại chi tiết xử lý, mạng xã hội hiển thị thẻ, v.v.
Điều này liên quan đến hầu hết mọi liên kết từ sản xuất đến phổ biến, và có thể hiểu được mức độ khó khăn của nó.
Giờ đây, vấn đề nan giải của việc làm giả AI cũng tương tự, giống như vô số cuộc thảo luận về Deepfake trong quá khứ, các công ty công nghệ, tổ chức truyền thông và thậm chí mỗi cá nhân đều phải chịu một phần trách nhiệm, nhưng đây chính xác là tình huống lý tưởng khó đạt được.
Sau khi "Giáo hoàng thời trang" bước ra khỏi vòng vây, Chrissy Teigen, người mẫu có gần 13 triệu người hâm mộ trên Twitter, đã than thở:
Tôi nghĩ chiếc áo khoác lông vũ của Giáo hoàng là thật và không nghĩ nhiều về nó. Không có cách nào tôi sẽ tồn tại trong tương lai của công nghệ.
Tốc độ mà AI đang phát triển đã vượt xa cả nhận thức cộng đồng lẫn luật pháp và quy định. Chỉ có thể nói rằng khi chúng ta nhìn thấy một bức tranh nào đó, tốt nhất đừng nên cho rằng nó là thật.
