Meta ra mắt chương trình Thrive để chia sẻ tín hiệu về nội dung vi phạm tự tử

Meta đang thực hiện một bước lớn khác để loại bỏ nội dung nguy hiểm khỏi nền tảng của mình. Công ty mạng xã hội khổng lồ đã thông báo tuần này rằng họ đã hợp tác với Liên minh Sức khỏe Tâm thần để ra mắt Thrive, một chương trình cho phép các mạng xã hội khác chia sẻ tín hiệu về nội dung vi phạm tự tử hoặc tự làm hại mình.

Điều này cực kỳ hữu ích khi các công ty như Meta, Snap và TikTok muốn ngăn chặn loại nội dung này lan truyền giữa các nền tảng của họ. Ba công ty này là các thành viên sáng lập của Thrive, nhưng Meta đang cung cấp toàn bộ cơ sở hạ tầng kỹ thuật đằng sau chương trình.

Nhờ Thrive, các công ty công nghệ tham gia sẽ có thể chia sẻ tín hiệu về nội dung vi phạm tự tử hoặc tự làm hại mình để các công ty khác có thể điều tra và hành động nếu nội dung tương tự hoặc tương tự đang được chia sẻ trên nền tảng của họ.

Meta giải thích rằng “các công ty tham gia sẽ bắt đầu bằng cách chia sẻ các băm – mã số tương ứng với nội dung vi phạm – của hình ảnh và video hiển thị hành vi tự tử và tự làm hại mình một cách đồ họa, và của nội dung miêu tả hoặc khuyến khích các thách thức tự tử hoặc tự làm hại mình lan truyền.”

Theo Meta, các tín hiệu này chỉ đại diện cho nội dung, vì vậy chúng sẽ không bao gồm thông tin nhận dạng về bất kỳ tài khoản hoặc cá nhân nào. Gã khổng lồ mạng xã hội hứa sẽ cung cấp hỗ trợ cho những người chia sẻ và tìm kiếm nội dung liên quan đến tự tử hoặc tự làm hại mình bằng cách kết nối họ với các tổ chức địa phương, bao gồm Suicide and Crisis Lifeline và Crisis Text Line tại Hoa Kỳ.

Meta tiết lộ rằng từ tháng 4 đến tháng 6, họ đã hành động trên hơn 12 triệu nội dung về tự tử và tự làm hại mình chỉ trên Facebook và Instagram. Đó là một số lượng đáng kinh ngạc nội dung gây hại, nhưng có thể giả định rằng con số này sẽ cao hơn nhiều nếu chúng ta tính đến các công ty tham gia khác, Snap và TikTok.