Thuật toán của TikTok đưa video tình dục đến với trẻ em như thế nào?

TikTok không chỉ là một ứng dụng vô thưởng vô phạt và vô hại. Nó có thể chứa đầy video tình dục…
Share:
Share on facebook
Share on twitter
Share on linkedin
Share on telegram
Share on whatsapp
Minh họa: Olivier Bergeron/Unsplash

Mới đây, ngày 8 Tháng Chín 2021, tờ The Wall Street Journal (WSJ) cho biết họ đã dùng “bot” (tài khoản tự động) để đăng ký sử dụng mạng xã hội video ngắn TikTok, giả làm một người dùng 13 tuổi và bắt đầu search tìm OnlyFans.com (trang mạng xã hội giải trí có đăng ký dành cho người lớn, chứa video khiêu dâm). Sau khi “tò mò” mở hai video bẩn ra xem, “cậu bé 13 tuổi” chuyển sang nguồn cấp dữ liệu (feed) “For You” (được cá nhân hóa theo trải nghiệm người dùng). Thuật toán TikTok đã kịp “nhớ” hành vi “tò mò” của cậu bé và nó “mặc định” cậu bé rất quan tâm tình dục nên nhanh chóng “phục vụ” thêm cho cậu, trong đó có hàng tá video quan hệ tình dục giả mà WSJ đã dàn dựng.

Cuộc thử nghiệm “đi tìm sự thật”

Khi cậu bé cuộn lên các video khác trong feed và xem lâu hơn những video tình dục và lướt nhanh các video khác, “For You” lập tức hiểu cậu là “con nghiện” tình dục nên các video tiếp theo gần như hoàn toàn mang chủ đề tình dục và bạo lực. Thuật toán của TikTok đã tự động đẩy cậu bé vào một cái hố mà nhiều người dùng ứng dụng gọi là “Kinktok”, nơi có đầy đủ roi, dây xích và các thiết bị tra tấn, bao gồm cả những nội dung bị TikTok cấm trong “điều khoản người dùng” (terms of service).

Cậu bé nói trên không có thật mà chỉ là một trong hàng chục tài khoản tự động (bot) được WSJ tạo ra để “bóc mẽ” những gì TikTok hiển thị cho những người dùng nhỏ tuổi. Các bot này được đăng ký cho người dùng từ 13 đến 15 tuổi, đã “đánh lừa” được feed “For You” (được cá nhân hóa cao và được quản lý bởi thuật toán mới thông minh hơn) quá dễ dàng. Như vậy, TikTok không hề an toàn như những gì họ nói mà ứng dụng này có thể đưa trẻ em tiếp cận với số lượng video tình dục và ma túy khổng lồ của feed! Thử nghiệm cho thấy, một tài khoản 13 tuổi đã được TikTok mời xem hơn… 569 video về nghiện ma túy, cocaine và các quảng cáo sản phẩm đi kèm.

Hàng trăm video tương tự cũng xuất hiện trong feed của các tài khoản khác do WSJ tạo ra. TikTok còn cho các em xem hơn 100 video từ các tài khoản TikTok dẫn đến những trang web khiêu dâm trả phí và những cửa hàng tình dục vốn chỉ dành cho người lớn nhưng vẫn lọt vào feed của trẻ em! Số khác xúi ăn uống bừa bãi, cổ vũ rượu chè và cả đua xe sau khi uống rượu! WSJ đã thử post lên TikTok một chùm 974 video về ma túy, khiêu dâm. Trong số này, 169 được gỡ bỏ kịp thời trước khi tờ báo chia sẻ nó (không rõ là người tạo ra chúng hay TikTok gỡ xuống). 255 được gỡ bỏ sau khi đã được một công ty chia sẻ, trong đó có cả video người lớn đóng vai “Người chăm sóc” (Caregiver) quan hệ với những trẻ em đóng vai “Little”.

Bị mặc định là mê sex chỉ sau một cái nhấp chuột!

Một phát ngôn viên của TikTok không bình luận về nội dung của từng video nhưng cho biết đa số không vi phạm “điều khoản người dùng”, đồng thời khẳng định TikTok đã xóa một số video sau khi các tài khoản bot của WSJ phát hiện ra chúng, đồng thời họ hạn chế phát tán các video xấu khác để chúng không thể đến người dùng trẻ.

Phát ngôn viên TikTok nói rằng họ đang tìm cách tạo ra một công cụ lọc nội dung mới. “Bảo vệ trẻ vị thành niên là cực kỳ quan trọng đối với chúng tôi. TikTok đã thực hiện các bước cần thiết để giúp việc trải nghiệm được an toàn và phù hợp với lứa tuổi thiếu niên. Ứng dụng cũng cho phép cha mẹ quản lý thời gian truy cập và cài đặt quyền riêng tư cho tài khoản của con cái”.

TikTok là một trong những ứng dụng công nghệ được giới trẻ dùng nhiều nhất thế giới hiện nay (ROBIN WORRALL/Unsplash)

Trong thực tế, một cuộc điều tra trước đó của WSJ đã phát hiện TikTok dựa vào khoảng thời gian người sử dụng nán lại trên một video để “mặc định” người ấy thích xem gì, kể cả trẻ em. Vì vậy, chỉ cần vài giây bạn chần chừ hoặc xem thử một video tình dục, ma túy hay bạo lực, ứng dụng sẽ tự biết “sở thích cá nhân” của bạn và “giúp đỡ” bạn tận tình, cho dù bạn mới vài tuổi! TikTok xem “sự nán lại” hay “lướt qua” một video là “tín hiệu chắc chắn”, là “thị hiếu” và “cảm xúc tiềm ẩn nhất”, đủ để đưa một đứa trẻ khám phá thêm các nội dung tương tự video chúng vừa lướt qua.

Thuật toán feed của TikTok làm việc theo cách này. Nó bị chi phối bởi “chủ đề” người dùng vừa lướt qua. Lướt qua càng nhiều, số video cùng chủ đề càng tràn ngập. Bằng cách này, TikTok đã để lọt lưới nhiều video xấu mà các công ty truyền thông xã hội khác như YouTube phải vật lộn để ngăn chặn. “Tất cả vấn đề chúng tôi gặp trên YouTube và TikTok đều do các thuật toán quá dựa vào tương tác “lỡ xem” hay “xem thử”; nhưng ở TikTok thì tệ hơn! – Guillaume Chaslot, cựu kỹ sư của YouTube, người quá quen với thuật toán và ủng hộ sự minh bạch trong cách các công ty vận hành ứng dụng, nhận xét – Nếu làm đúng, thuật toán của TikTok có thể học nhanh và làm tốt hơn nhiều những gì nó đang làm”.

Biện bạch của TikTok

Ngay cả khi các tài khoản giả của WSJ có các chủ đề muốn xem rất phong phú, TikTok vẫn cố lái người dùng vào các chủ đề tình dục, bạo lực, ma túy với hàng trăm video. Ví dụ ở chủ đề phim hoạt hình điện ảnh và truyền hình Nhật Bản, trong số 150 video giới thiệu trên feed, nhiều video đậm chất tình dục. Phát ngôn viên của TikTok biện bạch:

“Các bot của WSJ không đại diện cho hành vi và trải nghiệm của người thật, vì con người có những sở thích đa dạng và thay đổi. Tuy nhiên, chúng tôi vẫn tìm cách ngăn chặn hành vi tiêu cực, đặc biệt là đối với những người dùng trẻ. Ngoài ra, khi không muốn xem cái gì đó, người dùng có thể chọn ‘không quan tâm’ để giảm bớt nội dung tương tự”.

Trong một báo cáo gần đây, TikTok cho biết đã xóa 89 triệu video trong nửa cuối năm 2020, nhưng thật khó theo kịp tốc độ tăng trưởng của ứng dụng khi có khoảng 100 triệu người dùng ở Mỹ và tốc độ tải video là hàng chục ngàn/phút. Vào Tháng Bảy, TikTok cho biết, tại Mỹ, công ty sẽ bắt đầu dựa vào các thuật toán trong hệ thống mới cập nhật năm ngoái để tìm và xóa những video vi phạm quy tắc. Nhưng người phát ngôn của TikTok cảnh báo: “Không có thuật toán nào hoàn toàn chính xác trong việc kiểm soát nội dung vì khó hiểu đúng ngữ cảnh, đặc biệt là những video về ma túy”.

Dù thế nào, sự thật vẫn là các video hướng người dùng đến trang OnlyFans nhiều đến mức trong một cuộc họp vào mùa Thu năm 2020, bà Vanessa Pappas, Giám đốc điều hành TikTok, đã yêu cầu nhân viên giải thích trang web đó là gì! Sau cuộc họp, TikTok quyết định cấm các video đưa người dùng đến trang OnlyFans. Sau đó TikTok lại cho phép người dùng dẫn đến trang này, vì “kiểm tra lại cho thấy không phải mọi thứ trên OnlyFans đều khiêu dâm và các nền tảng mạng xã hội khác cũng cho phép liên kết”. Tuy nhiên, một phát ngôn viên của OnlyFans khẳng định trang web chỉ dành cho những người từ 18 tuổi trở lên.

Share:

Share on facebook
Share on twitter
Share on linkedin
Share on telegram
Share on whatsapp
Ý Kiến Độc Giả
Quảng Cáo

Có thể bạn chưa đọc

Quảng Cáo
Quảng Cáo
Quảng Cáo
Quảng Cáo
Quảng Cáo
Quảng Cáo
Share trang này:
Share on facebook
Facebook
Share on twitter
Twitter
Share on telegram
Telegram
Share on whatsapp
WhatsApp
Share on linkedin
LinkedIn
Share on email
Email
Kênh Saigon Nhỏ: