Trình tạo video AI của TikTok bị gỡ bỏ sau khi tạo ra video đọc lại bài phát biểu của Hitler

Tính năng này, được gọi là Symphony Assistant, là một phần của “Creative AI Suite” của TikTok, nhằm mục đích giúp tạo video cá nhân mà không cần thuê diễn viên thực. Tính năng này được giới thiệu vào tháng trước và theo như dự định, nó sẽ chỉ dành cho các tài khoản TikTok Ads Manager.

Tuy nhiên, nhà sản xuất CNN và người sáng tạo nội dung kỹ thuật số Jon Sarlin đã có thể truy cập vào công cụ AI bằng tài khoản cá nhân của mình và phát hiện ra rằng không có biện pháp bảo vệ nào cho nội dung nhạy cảm.

Sarlin đã đăng một số video được tạo bằng Symphony Assistant lên X (trước đây là Twitter), trong đó có các hình đại diện đọc các bài phát biểu gây tranh cãi. Thậm chí tệ hơn, không có hình mờ hoặc bất kỳ dấu hiệu nào trên video để cho biết chúng được tạo bằng AI.

Không có gì ngạc nhiên, CNN đã liên hệ với TikTok để yêu cầu bình luận và nhận được tuyên bố sau: “Một lỗi kỹ thuật, hiện đã được khắc phục, đã cho phép một số lượng cực kỳ nhỏ người dùng tạo nội dung bằng cách sử dụng phiên bản thử nghiệm nội bộ của công cụ trong vài ngày. Nếu CNN cố gắng tải lên nội dung có hại mà họ đã tạo, nội dung này sẽ bị từ chối vì vi phạm chính sách của chúng tôi. TikTok là một công ty hàng đầu trong lĩnh vực tạo AIGC có trách nhiệm và chúng tôi sẽ tiếp tục thử nghiệm và xây dựng các biện pháp giảm thiểu bảo mật mà chúng tôi áp dụng cho tất cả các sản phẩm của TikTok trước khi ra mắt công chúng.”

Hiện tại chưa rõ liệu TikTok có vô tình triển khai “phiên bản thử nghiệm nội bộ” của công cụ AI hay chỉ bỏ qua việc đặt các bộ lọc và cơ chế bảo vệ thích hợp, nhưng hiện tại vấn đề đã được khắc phục theo TikTok (chúng tôi hiểu rằng Trợ lý Symphony đã bị gỡ bỏ, ít nhất là tạm thời).

ByteDance, công ty mẹ của TikTok, đang phải đối mặt với tối hậu thư cho đến cuối năm để bán TikTok hoặc có nguy cơ ứng dụng bị cấm ở Mỹ sau khi Thượng viện bỏ phiếu gửi dự luật lên Nhà Trắng và sau đó được Tổng thống Biden ký. Các nhà lập pháp Hoa Kỳ lo ngại rằng ByteDance có thể bị Đảng Cộng sản Trung Quốc (CCP) ép buộc cung cấp thông tin cá nhân của người dùng và do thám người Mỹ.

AI sẽ không biến mất trong tương lai gần, vì vậy hãy mong đợi nhiều câu chuyện như thế này xuất hiện. Bạn nghĩ gì về điều đó? AI chỉ là một công cụ và chính con người chúng ta là những kẻ cuối cùng sử dụng nó một cách không đạo đức. Nhưng cần phải có các cơ chế để ngăn chặn những sự cố như vậy, phải không?