Vào thứ ba, Meta đã công bố kế hoạch bắt đầu gắn thẻ các hình ảnh do AI tạo ra từ các công ty khác như OpenAI và Google. Động thái này nhằm mục đích tăng tính minh bạch trên các nền tảng như Facebook, Instagram và Chủ đề, bằng cách thông báo cho người dùng rằng nội dung họ đang xem là phương tiện kỹ thuật số tổng hợp chứ không phải ảnh hoặc video xác thực.
Giải pháp của Meta là một phần trong nỗ lực rộng lớn hơn của ngành công nghệ nhằm đặt ra các tiêu chuẩn cho việc gắn nhãn nội dung được tạo bằng các mô hình AI tổng quát có khả năng tạo ra âm thanh, hình ảnh và video giả nhưng thực tế dựa trên lời nhắc bằng văn bản.
Chủ tịch phụ trách các vấn đề toàn cầu của Meta, Nick Clegg, đã đưa ra thông báo trong một bài đăng trên blog trên trang web của Meta. Clegg viết: “Chúng tôi sẽ tiếp tục theo đuổi cách tiếp cận này trong năm tới, khi một số cuộc bầu cử quan trọng sẽ được tổ chức trên khắp thế giới”. "Trong thời gian này, chúng tôi hy vọng sẽ tìm hiểu được nhiều điều hơn về cách mọi người tạo và chia sẻ nội dung bằng trí tuệ nhân tạo, tính minh bạch mà mọi người đánh giá cao nhất và cách các công nghệ này đang phát triển."
Clegg lưu ý rằng sáng kiến gắn thẻ nội dung do AI tạo của Meta sẽ mở rộng phương pháp gắn thẻ nội dung hiện có được tạo bằng các công cụ AI của riêng mình để bao gồm các hình ảnh được tạo bằng dịch vụ của các công ty khác.
“Chúng tôi đang xây dựng các công cụ hàng đầu trong ngành có thể xác định các điểm đánh dấu vô hình trên quy mô lớn – cụ thể là thông tin 'do AI tạo ra' trong các tiêu chuẩn kỹ thuật C2PA và IPTC – để chúng tôi có thể gắn thẻ hình ảnh từ Google, OpenAI, Microsoft, Adobe, Midjourney và Shutterstock khi họ triển khai kế hoạch thêm siêu dữ liệu vào hình ảnh do công cụ của họ tạo ra.”
Meta cho biết công nghệ ghi nhãn nội dung do AI tạo ra sẽ dựa trên các hình mờ và siêu dữ liệu vô hình được nhúng trong các tệp. Meta thêm một hình mờ nhỏ “Được tưởng tượng bằng AI” vào các hình ảnh được tạo bằng trình tạo hình ảnh AI công khai của nó.
Trong bài đăng, Clegg bày tỏ sự tin tưởng vào khả năng gắn nhãn hình ảnh do AI tạo ra một cách đáng tin cậy của các công ty, mặc dù ông lưu ý rằng các công cụ gắn nhãn nội dung âm thanh và video vẫn đang được phát triển. Trong thời gian chờ đợi, Meta sẽ yêu cầu người dùng gắn thẻ nội dung âm thanh và video đã được sửa đổi, với mức phạt không xác định nếu không làm như vậy.
Ông viết: “Chúng tôi sẽ yêu cầu mọi người sử dụng công cụ tiết lộ và gắn nhãn này khi họ đăng nội dung tự nhiên có video chân thực hoặc âm thanh chân thực đã được tạo hoặc thay đổi bằng kỹ thuật số và chúng tôi có thể áp dụng các hình phạt nếu họ không làm như vậy”.
Tuy nhiên, Clegg lưu ý rằng hiện tại không có cách hiệu quả nào để gắn nhãn văn bản do AI tạo ra, cho thấy đã quá muộn để thực hiện các biện pháp đó đối với nội dung văn bản. Điều này phù hợp với báo cáo của chúng tôi rằng trình phát hiện văn bản AI không hoạt động.
Thông báo này được đưa ra một ngày sau khi hội đồng giám sát độc lập của Meta chỉ trích chính sách của công ty về các video bị thay đổi một cách lừa đảo là quá hẹp và khuyến nghị nên gắn cờ những nội dung đó thay vì xóa nội dung đó. Clegg đồng ý với những lời chỉ trích, thừa nhận rằng các chính sách Meta hiện tại không đủ để quản lý khối lượng nội dung tổng hợp và kết hợp ngày càng tăng trên Internet. Ông coi sáng kiến ghi nhãn mới là một bước hướng tới việc thực hiện các khuyến nghị của cơ quan giám sát và thúc đẩy động lực thực hiện các biện pháp tương tự trong toàn ngành.
Meta thừa nhận rằng nó sẽ không thể phát hiện nội dung do AI tạo ra mà không có hình mờ hoặc siêu dữ liệu, chẳng hạn như hình ảnh được tạo bằng một số công cụ tổng hợp hình ảnh AI nguồn mở. Meta đang nghiên cứu một công nghệ tạo hình mờ cho hình ảnh có tên là Stable Signature mà họ hy vọng có thể được tích hợp vào các trình tạo hình ảnh nguồn mở. Nhưng miễn là pixel là pixel, chúng có thể được tạo theo những cách nằm ngoài tầm kiểm soát của ngành công nghệ và đây vẫn là một thách thức đối với việc phát hiện nội dung AI khi các công cụ AI nguồn mở ngày càng trở nên phức tạp và thực tế.
Đọc thêm: