The Storm Riders
Writer
Chúng ta có thể đã vượt qua giai đoạn "thung lũng kỳ lạ" (uncanny valley). Các video giả mạo của OmniHuman-1 trông giống thật đến kinh ngạc và đầu ra deepfake của mô hình này có lẽ là chân thực nhất cho đến nay. Hãy xem qua bài nói chuyện TED Talk này, một bài nói chuyện chưa từng diễn ra trên thực tế.
Hệ thống chỉ cần một bức ảnh và một đoạn âm thanh duy nhất để tạo ra những video này từ đầu. Bạn cũng có thể điều chỉnh các yếu tố như tỷ lệ khung hình và khung hình cơ thể. AI thậm chí có thể sửa đổi các cảnh quay video hiện có, chỉnh sửa những thứ như chuyển động cơ thể và cử chỉ theo những cách thực tế đến rợn người.
Tất nhiên, kết quả không hoàn hảo 100%. Một số tư thế trông hơi kỳ quặc, như ví dụ khó xử này về việc cầm ly rượu. Ngoài ra còn có bài giảng do AI dựng lại này từ Einstein, nơi bàn tay của ông ấy vặn vẹo theo những hướng kỳ lạ. Tuy nhiên, khuôn mặt của ông được thể hiện gần như hoàn hảo. Tuy nhiên, chất lượng tổng thể vượt xa các kỹ thuật deepfake trước đây.
Về cơ bản, OmniHuman-1 đã được huấn luyện trên 18.700 giờ dữ liệu video bằng cách sử dụng phương pháp "điều kiện đa dạng" (omni-conditions) mới cho phép nó học từ nhiều nguồn đầu vào như lời nhắc văn bản, âm thanh và tư thế cơ thể cùng một lúc. Các nhà nghiên cứu của ByteDance cho biết dữ liệu huấn luyện rộng hơn này giúp AI "giảm đáng kể lãng phí dữ liệu" so với các mô hình deepfake cũ hơn.
Những tác động của công nghệ này rất đáng lo ngại. Deepfake đã được sử dụng cho các chiến dịch thông tin sai lệch, lừa đảo và tất cả các loại mục đích bất chính trong vài năm qua. Đã có rất nhiều sự cố trong chu kỳ bầu cử năm 2024 về âm thanh và video deepfake được lan truyền để đánh lừa cử tri. Các vụ lừa đảo tài chính cũng đã lừa mọi người hàng tỷ đô la vào năm ngoái. Một trường hợp đáng chú ý liên quan đến một kẻ lừa đảo sử dụng AI để đóng giả Brad Pitt, lừa một phụ nữ gửi 850.000 đô la vào tháng trước.
Xem xét những sự cố này, hàng trăm chuyên gia đạo đức AI đã cầu xin các quy định về deepfake vào năm ngoái. Một số bang của Hoa Kỳ đã thông qua luật chống lại deepfake độc hại, nhưng vẫn chưa có luật liên bang bao trùm. Ví dụ, California đã trên bờ vực ban hành luật cho phép các thẩm phán buộc mọi người gỡ bỏ deepfake và có khả năng phải đối mặt với tiền phạt khi đăng chúng. Tuy nhiên, dự luật đó đã bị đình trệ trong quá trình lập pháp.
ByteDance chưa phát hành OmniHuman-1 cho công chúng.
Hệ thống chỉ cần một bức ảnh và một đoạn âm thanh duy nhất để tạo ra những video này từ đầu. Bạn cũng có thể điều chỉnh các yếu tố như tỷ lệ khung hình và khung hình cơ thể. AI thậm chí có thể sửa đổi các cảnh quay video hiện có, chỉnh sửa những thứ như chuyển động cơ thể và cử chỉ theo những cách thực tế đến rợn người.
Tất nhiên, kết quả không hoàn hảo 100%. Một số tư thế trông hơi kỳ quặc, như ví dụ khó xử này về việc cầm ly rượu. Ngoài ra còn có bài giảng do AI dựng lại này từ Einstein, nơi bàn tay của ông ấy vặn vẹo theo những hướng kỳ lạ. Tuy nhiên, khuôn mặt của ông được thể hiện gần như hoàn hảo. Tuy nhiên, chất lượng tổng thể vượt xa các kỹ thuật deepfake trước đây.
Về cơ bản, OmniHuman-1 đã được huấn luyện trên 18.700 giờ dữ liệu video bằng cách sử dụng phương pháp "điều kiện đa dạng" (omni-conditions) mới cho phép nó học từ nhiều nguồn đầu vào như lời nhắc văn bản, âm thanh và tư thế cơ thể cùng một lúc. Các nhà nghiên cứu của ByteDance cho biết dữ liệu huấn luyện rộng hơn này giúp AI "giảm đáng kể lãng phí dữ liệu" so với các mô hình deepfake cũ hơn.
Những tác động của công nghệ này rất đáng lo ngại. Deepfake đã được sử dụng cho các chiến dịch thông tin sai lệch, lừa đảo và tất cả các loại mục đích bất chính trong vài năm qua. Đã có rất nhiều sự cố trong chu kỳ bầu cử năm 2024 về âm thanh và video deepfake được lan truyền để đánh lừa cử tri. Các vụ lừa đảo tài chính cũng đã lừa mọi người hàng tỷ đô la vào năm ngoái. Một trường hợp đáng chú ý liên quan đến một kẻ lừa đảo sử dụng AI để đóng giả Brad Pitt, lừa một phụ nữ gửi 850.000 đô la vào tháng trước.
Xem xét những sự cố này, hàng trăm chuyên gia đạo đức AI đã cầu xin các quy định về deepfake vào năm ngoái. Một số bang của Hoa Kỳ đã thông qua luật chống lại deepfake độc hại, nhưng vẫn chưa có luật liên bang bao trùm. Ví dụ, California đã trên bờ vực ban hành luật cho phép các thẩm phán buộc mọi người gỡ bỏ deepfake và có khả năng phải đối mặt với tiền phạt khi đăng chúng. Tuy nhiên, dự luật đó đã bị đình trệ trong quá trình lập pháp.
ByteDance chưa phát hành OmniHuman-1 cho công chúng.
