YouTube ra mắt công cụ phát hiện AI-Deepfake

YouTube đang tăng cường các biện pháp để chống lạiDeepfake do AI tạo ra với các quy trình phát hiện mới được thiết kế để thông báo cho người sáng tạo và nhà xuất bản nếu hình ảnh hoặc giọng nói của họ được sử dụng trong nội dung trái phép.

Do deepfake ngày càng gây ra nhiều rủi ro bằng cách mô tả nghệ sĩ và chính trị gia thông qua hình ảnh do máy tính tạo ra, khả năng phát hiện nâng cấp của YouTube nhằm mục đích giảm thiểu tình trạng trình bày sai sự thật và thông tin sai lệch trên nền tảng này.

Công nghệ AI Deepfake mới của YouTube dành cho khuôn mặt và giọng nói

YouTube đã công bố kế hoạch giới thiệu hai công cụ sáng tạo nhằm bảo vệ quyền sở hữu trí tuệ của người sáng tạo khỏiviệc sử dụng trái phép bởi các mô hình AI tạo ra.

Mặc dù ngày phát hành cụ thể cho các công cụ này vẫn chưa được công bố, nhưng công ty đã nêu chi tiết chức năng của chúng.

Amjad Hanif, Phó chủ tịch sản phẩm sáng tạo của YouTube,được chia sẻ trong bài đăng trên blog :

“AI đang mở ra một thế giới đầy khả năng, trao quyền cho những người sáng tạo thể hiện bản thân theo những cách sáng tạo và thú vị. Tại YouTube, chúng tôi cam kết đảm bảo những người sáng tạo và đối tác của mình phát triển mạnh mẽ trong bối cảnh đang thay đổi này. Điều này có nghĩa là trang bị cho họ những công cụ họ cần để khai thác tiềm năng sáng tạo của AI trong khi vẫn duy trì quyền kiểm soát đối với cách thể hiện hình ảnh của họ, bao gồm cả khuôn mặt và giọng nói của họ.”

Công cụ đầu tiên, "công nghệ nhận dạng giọng hát tổng hợp", được thiết kế để tích hợp với hệ thống ID nội dung hiện có của YouTube.

Tính năng mới này sẽ cho phép người sáng tạo và nhà xuất bản phát hiện và quản lý nội dung do AI tạo ra mô phỏng giọng nói của họ.

Bằng cách sử dụng công nghệ so khớp âm thanh tiên tiến, công nghệ này sẽ làm nổi bật các bản sao tiềm ẩn và sao chép trái phép, nâng cao khả năng của nghệ sĩ và nhà xuất bản trong việc giải quyết các hành vi mô tả sai lệch tác phẩm của họ.

Sự phát triển này mang lại lợi ích đáng kể cho các nhà xuất bản âm nhạc hiện đang đầu tư nhiều nguồn lực vào việc giám sát và thực thi bảo vệ bản quyền trực tuyến.

Trong khi công cụ này ban đầu sẽ tập trung vào các nhạc sĩ nổi tiếng có giọng hát thường xuyênđược bắt chước bởi AI , hiệu quả của nó đối với các nghệ sĩ ít tên tuổi vẫn còn chưa chắc chắn.

Tuy nhiên, nó hứa hẹn sẽ là một nguồn tài nguyên có giá trị cho các hãng thu âm lớn và các nghệ sĩ nổi tiếng, chẳng hạn như Drake vàTaylor Swift , trong việc chống lại nội dung do AI tạo ra bắt chước giọng nói của họ.

Công cụ thứ hai, hiện đang được phát triển tích cực, sẽ nhắm mục tiêu vào phương tiện truyền thông do AI tạo ra có hình ảnh giống với những người của công chúng, bao gồm người có sức ảnh hưởng, diễn viên, vận động viên và nghệ sĩ.

Tính năng này sẽ cho phép các công ty quản lý tài năng và người nổi tiếng xác định và báo cáo hành vi sử dụng trái phép hình ảnh của họ.

Các thực thể chính trị cũng có thể thấy công cụ này hữu ích khi họ giải quyết các vấn đề liên quan đến việc sử dụng sai hình ảnh của người nổi tiếng.

Tuy nhiên, vẫn còn phải xem liệuYouTube sẽ chủ động triển khai công cụ này để phát hiện nội dung do AI tạo ra liên quan đến những cá nhân ít nổi bật.

Những tiến bộ này sẽ tăng cường các biện pháp bảo vệ bản quyền hiện tại của YouTube, vốn đã được sử dụng rộng rãi.

Amjad Hanif, Phó chủ tịch Sản phẩm dành cho người sáng tạo của YouTube, nhấn mạnh rằng việc thu thập nội dung của người sáng tạo để đào tạo AI là hành vi vi phạm các điều khoản dịch vụ của YouTube.

Tuy nhiên, ông thừa nhận rằng những người sáng tạo có thể tìm kiếm sự kiểm soát lớn hơn đối với các hoạt động hợp tác với các nhà phát triển AI của bên thứ ba. Hanif chỉ ra rằng các bản cập nhật tiếp theo về mặt này sẽ được công bố vào cuối năm nay.

YouTube nhấn mạnh cam kết thúc đẩy môi trường đổi mới

Theo mộtYouTube đại diện, chính sách bảo mật được sửa đổi gần đây của nền tảng hiện cho phép cá nhân yêu cầu xóa nội dung deepfake hoặc nội dung mạo danh do AI tạo ra.

Sự thay đổi này ngụ ý rằng những cá nhân bị ảnh hưởng bởideepfake - giả mạo sâu sẽ cần phải chủ động tìm kiếm và báo cáo những hành vi mạo danh như vậy để xóa bỏ chúng.

Hanif kết luận:

“Khi AI phát triển, chúng tôi tin rằng nó sẽ nâng cao khả năng sáng tạo của con người chứ không phải thay thế nó. Chúng tôi cam kết hợp tác với các đối tác của mình để đảm bảo những tiến bộ trong tương lai sẽ khuếch đại tiếng nói của họ và chúng tôi sẽ tiếp tục xây dựng các rào cản để giải quyết các mối quan tâm và đạt được các mục tiêu chung của chúng tôi. Ngay từ những ngày đầu, chúng tôi đã tập trung vào việc trao quyền cho những người sáng tạo và doanh nghiệp để xây dựng các cộng đồng thịnh vượng trên YouTube và trọng tâm của chúng tôi vẫn là thúc đẩy một môi trường nơi sự đổi mới có trách nhiệm phát triển mạnh mẽ.”

Không có cách nào chắc chắn để loại bỏ AI-Deepfake?

BẰNG Deepfake do AI tạo ra ngày càng tinh vi, việc phát hiện chúng trở nên khó khăn hơn vì những tiến bộ này cho phép tạo ra nội dung có tính thuyết phục và thực tế cao.

Mặc dù có sự phát triển của các công nghệ phát hiện tiên tiến hơn được thiết kế để xác định những hành vi thao túng như vậy, nhưng những phương pháp này không phải là hoàn hảo.

Sự phát triển liên tục của công nghệ deepfake thường vượt xa khả năng phát hiện, dẫn đến cuộc đua liên tục giữa đổi mới trong việc tạo ra và phát hiện phương tiện truyền thông tổng hợp.

Do đó, ngay cả những công cụ mới nhất cũng khó có thể theo kịp bản chất ngày càng tinh vi và phức tạp của deepfake, để lại lỗ hổng dai dẳng trong việc đảm bảo nhận dạng chính xác và đáng tin cậy.