Meta kiện nhà phát triển ứng dụng AI “lột đồ” sau khi quảng cáo tràn lan trên Facebook và Instagram

Meta đang kiện nhà sản xuất một trong những ứng dụng AI “lột đồ”, vốn đang tràn lan trên internet cùng với sự phát triển của AI tạo sinh. Gã khổng lồ công nghệ đã nộp đơn kiện chống lại Joy Timeline HK Limited, công ty đã phát triển ứng dụng có tên Crush AI.

Trong vụ kiện được đệ trình tại Hồng Kông, Meta cáo buộc Crush AI đã nhiều lần cố gắng lách quy trình kiểm duyệt quảng cáo của Meta và được cho là vẫn tiếp tục đặt quảng cáo.

Những quảng cáo này xuất hiện trên Facebook và Instagram. Tuy nhiên, Meta đã gỡ bỏ chúng (và tiếp tục làm như vậy) vì vi phạm các quy tắc, nhưng Joy Timeline bị cáo buộc vẫn tiếp tục đăng tải thêm.

Các ứng dụng AI “lột đồ” này về cơ bản tạo ra hình ảnh nhạy cảm của người thật sau khi nhận được ảnh của cá nhân đó. Crush AI là một trong những ứng dụng thuộc loại này quảng cáo rất mạnh. Trở lại vào tháng 1, một cuộc điều tra của Alexios Mantzarlis, tác giả bản tin Faked UP, đã phát hiện ra rằng các nền tảng mạng xã hội của Meta có hơn 8.000 quảng cáo liên quan đến Crush AI chỉ trong hai tuần đầu năm!

Mantzarlis cũng lưu ý rằng khoảng 90% lưu lượng truy cập trang web của Crush AI đến từ Facebook và Instagram.

Công ty này bị cáo buộc đã tạo ra hàng chục tài khoản quảng cáo để lách các quy tắc của Meta, và thậm chí thường xuyên thay đổi tên miền.

Trở lại vào tháng 2, Thượng nghị sĩ Dick Durbin đã gửi thư cho Zuckerberg, thúc giục ông giải quyết các quảng cáo này và nhấn mạnh rằng chúng đang vi phạm Tiêu chuẩn Quảng cáo của Meta bằng cách chứa nội dung khỏa thân, hoạt động tình dục và thậm chí quấy rối.

Rõ ràng, Meta hiện có công nghệ mới được thiết kế để tìm và xóa nhanh chóng các loại quảng cáo này, và họ cũng đã mở rộng danh sách các thuật ngữ, cụm từ và thậm chí cả biểu tượng cảm xúc được hệ thống của họ gắn cờ.

Meta cũng đang làm việc với các đội ngũ chuyên gia để luôn cập nhật cách các nhà phát triển ứng dụng này tránh bị phát hiện và phát triển các chiến lược lách luật. Meta cũng cho biết họ sẽ chia sẻ các tín hiệu với các nền tảng mạng xã hội khác để các ứng dụng này cũng có thể được xử lý ở đó.

Theo tôi, vụ kiện của Meta chống lại nhà sản xuất Crush AI là một bước đi quan trọng và cần thiết từ lâu. Các ứng dụng như thế này đặt ra những lo ngại nghiêm trọng về quyền riêng tư, sự đồng thuận và an toàn kỹ thuật số. Thật đáng báo động khi hàng nghìn quảng cáo quảng bá công nghệ như vậy có thể chạy trên các nền tảng lớn như Facebook và Instagram. Mặc dù Meta đã liên tục gỡ bỏ chúng, nhưng các nhà phát triển ứng dụng bị cáo buộc vẫn tìm cách tiếp tục đăng. Điều này cho thấy nội dung có hại có thể dễ dàng lọt qua như thế nào, bất chấp các chính sách hiện có.