Liên minh này bao gồm công ty sản xuất phần mềm,ênminhcôngnghệxâydựngtiêuchuẩnchungđốiphóbảng tỷ số bóng đá vi xử lý, máy ảnh và truyền thông xã hội, với mục đích tạo ra các tiêu chuẩn đảm bảo hình ảnh và video chia sẻ trực tuyến là xác thực, trong bối cảnh các hành vi giả mạo ngày càng tinh vi đang đe dọa tới công chúng.

Theo đó, nhà phát triển ứng dụng Photoshop, Adobe, cùng Microsoft, Intel và Twitter là một phần của nỗ lực nói trên, cùng với đó là hãng sản xuất camera Sony, Nikon và Softbank Group - chủ sở hữu hãng thiết kế chip Arm.

Được biết đến với tên gọi Liên minh chứng minh và xác thực nội dung (C2PA), các công ty đang xây dựng một tiêu chuẩn mở có thể hoạt động với bất kỳ phần mềm nào để phát hiện các hành vi giả mạo nội dung.

“Bạn sẽ thấy nhiều tính năng này xuất hiện trên thị trường trong năm nay”, Andy Parsons, giám đốc cấp cao về sáng kiến xác thực nội dung của Adobe cho biết. “Và tôi nghĩ rằng trong 2 năm tới, chúng ta sẽ được chứng kiến nhiều loại sinh thái khép kín hơn nữa”.

Nhu cầu đảm bảo tính xác thực của hình ảnh và video có thể tin cậy được đã tăng lên cùng với sự gia tăng của “deepfake”, hình thức thao túng nâng cao sử dụng trí tuệ nhân tạo (AI), có thể tạo ra các sản phẩm giả mạo con người. Gần đây nhất là một đoạn video giả mạo Tổng thống Ukraine Volodymyr Zelenskyy kêu gọi quân đội đầu hàng lan truyền trên mạng xã hội.

Liên minh C2PA hướng tới các nền tảng mạng xã hội, chẳng hạn như YouTube, áp dụng tiêu chuẩn chung càng rộng rãi càng tốt.

“Chìa khóa thành công trong đảm bảo nguồn gốc kỹ thuật số nói chung, là việc có thể áp dụng rộng rãi trên tất cả các nền tảng để người dùng có thể yên tâm rằng, khi nội dung được đăng tải với tính xác thực, nó sẽ được duy trì xuyên suốt trong cả chuỗi chia sẻ cũng như xuất bản”, Parsons nói.

Với tiêu chuẩn kỹ thuật mà liên minh đang nghiên cứu, dữ liệu liên quan đến nguồn gốc, hoặc “xuất xứ” của một hình ảnh hay video được “liên kết mã hoá” với nội dung và sẽ hiển thị thông tin cho biết nội dung này đã bị chỉnh sửa hay giả mạo.

Các phương pháp phát hiện “deepfake” truyền thống đòi hỏi phải có sự so sánh tỉ mỉ với hình ảnh chân thực. Mặc dù lịch sử chỉnh sửa và các siêu dữ liệu (metadata) có thể được lưu trữ, việc giả mạo vẫn có thể xảy ra bằng các phần mềm đặc biệt theo những cách khó có thể phát hiện.

Meta, công ty mẹ của Facebook, cũng như các công ty truyền thông xã hội khác đang tìm cách loại bỏ những nội dung giả mạo khỏi nền tảng của họ, nhưng không dễ gì thoát khỏi những kẻ thao túng nội dung này.

Trong khi đó, Adobe đang là công ty dẫn đầu trong lĩnh vực xác thực nội dung, khi tích hợp công nghệ vào phần phần mềm chỉnh sửa ảnh của hãng, cho phép theo dõi dữ liệu xuất xứ đồng thời bảo vệ quyền riêng tư của người dùng.

“Công ty mới chỉ làm việc này được khoảng 2,5 năm. Do đó, đây mới chỉ là giai đoạn đầu của chu kỳ. Chúng tôi còn một chặng đường dài phía trước để đảm bảo các nền tảng khác đều có thể áp dụng tiêu chuẩn này”, Parsons chia sẻ.

Vinh Ngô (theo Nikkei)

Deepfake giả giọng giám đốc ngân hàng, đánh cắp 800 tỷ

Deepfake đang ngày càng nguy hiểm hơn.