Nghiên cứu cho thấy nhiều công cụ bảo vệ thanh thiếu niên trên Instagram không hiệu quả.
Báo cáo cho biết chỉ có tám trong số 47 tính năng nhằm ngăn thanh thiếu niên truy cập nội dung có hại và liên quan đến việc tiếp xúc với người lạ là hoàn toàn hiệu quả.
Theo một báo cáo từ các nhóm vận động vì an toàn trẻ em, được các nhà nghiên cứu tại đại học Northeastern University ở Boston xác nhận, nhiều tính năng an toàn mà Meta từng tuyên bố đã triển khai để bảo vệ người dùng trẻ tuổi trên Instagram trong nhiều năm qua không hoạt động hiệu quả, hoặc trong một số trường hợp, không hề tồn tại.
Nghiên cứu này, vốn bị Meta bác bỏ là gây hiểu lầm, được đưa ra trong bối cảnh các công ty công nghệ đang chịu áp lực ngày càng tăng trong việc bảo vệ trẻ em và những người dùng dễ bị tổn thương khác trên nền tảng mạng xã hội của họ.
Trong số 47 tính năng an toàn được thử nghiệm, các nhóm này chỉ đánh giá tám tính năng là hoàn toàn hiệu quả. Các tính năng còn lại “hoặc bị lỗi, không còn khả dụng hoặc về cơ bản là không hiệu quả,” báo cáo cho biết.
Các nhà nghiên cứu báo cáo rằng các tính năng nhằm ngăn chặn người dùng trẻ tuổi tìm thấy nội dung liên quan đến tự gây hại bằng cách chặn các thuật ngữ tìm kiếm đã dễ dàng bị vượt qua.
Bộ lọc “tin nhắn chống bắt nạt” cũng không được kích hoạt, ngay cả khi được nhắc nhở bằng những cụm từ quấy rối tương tự mà Meta đã sử dụng trong thông cáo báo chí quảng bá. Các nhà nghiên cứu phát hiện ra rằng một tính năng nhằm chuyển hướng thanh thiếu niên khỏi việc say sưa với nội dung liên quan, đến tự làm hại bản thân cũng không bao giờ được kích hoạt.
Các nhà nghiên cứu cũng phát hiện ra rằng một số tính năng an toàn cho tài khoản thanh thiếu niên đã hoạt động đúng như quảng cáo, chẳng hạn như “Tình trạng im lặng”, có chức năng tạm thời tắt thông báo vào ban đêm, và một tính năng yêu cầu phụ huynh phê duyệt các thay đổi đối với cài đặt tài khoản của con.
Với tiêu đề “Teen Accounts, Broken Promises,” báo cáo đã tổng hợp và phân tích các cập nhật được công bố công khai của Instagram về các tính năng an toàn và sức khỏe tinh thần cho thanh thiếu niên trong hơn một thập niên qua.
Hai trong số các nhóm đứng sau báo cáo – Quỹ Molly Rose ở Vương quốc Anh và Cha mẹ vì Không gian Trực tuyến An toàn ở Hoa Kỳ – được thành lập bởi các bậc cha mẹ cáo buộc con cái họ tử vong do nội dung bắt nạt và tự làm hại bản thân trên nền tảng của công ty truyền thông xã hội này.
Những phát hiện này đặt ra câu hỏi về những nỗ lực của Meta “nhằm bảo vệ thanh thiếu niên khỏi những khía cạnh tồi tệ nhất của nền tảng,” Laura Edelson, giáo sư tại Đại học Northeastern, người giám sát việc đánh giá các phát hiện này, cho biết. “Sử dụng các kịch bản thử nghiệm thực tế, chúng tôi có thể thấy rằng nhiều công cụ an toàn của Instagram đơn giản là không hiệu quả.”
Meta, công ty đã tuyên bố hôm thứ Năm rằng họ sẽ mở rộng tài khoản thanh thiếu niên cho người dùng Facebook trên toàn thế giới, đã gọi những phát hiện này là sai lầm và gây hiểu lầm.
Trong khi đó, người phát ngôn của Meta, Andy Stone, cho biết, “Báo cáo này liên tục trình bày sai lệch những nỗ lực của chúng tôi trong việc trao quyền cho cha mẹ và bảo vệ thanh thiếu niên, bỏ qua cách thức hoạt động của các công cụ an toàn của chúng tôi và cách hàng triệu phụ huynh và thanh thiếu niên đang sử dụng chúng hiện nay.”
Ông Stone cũng bác bỏ một số đánh giá trong báo cáo, gọi đó là “gây hiểu lầm nguy hiểm”, và cho biết cách tiếp cận của công ty đối với các tính năng tài khoản thanh thiếu niên và quyền kiểm soát của phụ huynh đã thay đổi theo thời gian.
“Những thanh thiếu niên được áp dụng các biện pháp bảo vệ này đã thấy ít nội dung nhạy cảm hơn, ít gặp phải những tiếp xúc không mong muốn hơn và dành ít thời gian hơn trên Instagram vào ban đêm,” Stone nói. “Chúng tôi sẽ tiếp tục cải thiện các công cụ của mình và chúng tôi hoan nghênh những phản hồi mang tính xây dựng – nhưng báo cáo này thì không như vậy.”
Sau đó, các nhóm vận động và các nhà nghiên cứu tại trường đại học nhận được thông tin từ Arturo Bejar, cựu giám đốc điều hành an toàn của Meta, người cũng cho biết các tính năng của Instagram có lỗi.
Ông Bejar làm việc tại Meta cho đến năm 2015, sau đó quay lại vào cuối năm 2019 với tư cách là cố vấn cho Instagram cho đến năm 2021. Ông cho biết trong nhiệm kỳ thứ hai tại công ty, Meta đã không phản hồi dữ liệu cho thấy những lo ngại nghiêm trọng về an toàn của thanh thiếu niên trên Instagram.
“Tôi đã trực tiếp chứng kiến những ý tưởng an toàn tốt bị ban quản lý cắt giảm thành những tính năng kém hiệu quả như thế nào”, Bejar nói. “Việc chứng kiến những tuyên bố của Meta về các công cụ an toàn của họ khiến tôi nhận ra rằng việc xem xét kỹ lưỡng là rất quan trọng.”
Stone cho biết công ty đã phản hồi những lo ngại mà Bejar nêu ra khi làm việc tại Meta bằng các hành động nhằm bảo đảm sản phẩm của mình an toàn hơn.
Reuters xác nhận một số phát hiện trong báo cáo bằng cách tự tiến hành các thử nghiệm và xem xét các tài liệu nội bộ của Meta.
Trong một thử nghiệm, Reuters sử dụng các biến thể đơn giản của các thuật ngữ tìm kiếm bị cấm trên Instagram để tìm nội dung bị cấm đối với thanh thiếu niên.
Meta đã chặn thuật ngữ tìm kiếm “skinny thighs” – một hashtag từ lâu được các tài khoản quảng cáo nội dung về “rối loạn ăn uống” sử dụng. Nhưng khi một tài khoản thử nghiệm của thanh thiếu niên nhập các từ không có khoảng cách giữa , kết quả tìm kiếm lại hiển thị nội dung liên quan đến chứng chán ăn.
Các tài liệu Meta mà hãng thông tấn này xem được cho thấy khi công ty quảng bá các tính năng an toàn cho thanh thiếu niên trên Instagram vào năm 2024, công ty đã nhận thức được một số sai sót đáng kể.
Ví dụ, các nhân viên an toàn đã cảnh báo vào năm ngoái rằng Meta đã không duy trì hệ thống phát hiện tự động nội dung về rối loạn ăn uống và tự gây thương tích, theo các tài liệu mà Reuters xem được.
Do đó, Meta không thể tránh khỏi việc quảng bá nội dung ca ngợi rối loạn ăn uống và tự tử cho thanh thiếu niên như đã hứa, hoặc tiếp đãi những người dùng dường như đang tiêu thụ một lượng lớn nội dung như vậy, theo các tài liệu nội bộ và những người quen thuộc với quá trình phát triển sản phẩm của Meta.
Theo các tài liệu nội bộ và những người quen thuộc với quá trình phát triển sản phẩm của Meta, đội ngũ an toàn cũng thừa nhận rằng hệ thống chặn các thuật ngữ tìm kiếm được sử dụng bởi những kẻ xâm hại trẻ em tiềm năng đã không được cập nhật kịp thời.
Mặc dù Meta đã tìm cách hạn chế người lạ trưởng thành liên hệ với người dùng chưa đủ tuổi trên ứng dụng của mình, nhưng người lớn vẫn có thể giao tiếp với trẻ vị thành niên “thông qua nhiều tính năng vốn có trong thiết kế của Instagram”, báo cáo cho biết.
Cụ thể, trong nhiều trường hợp, người lạ trưởng thành được giới thiệu đến tài khoản trẻ vị thành niên thông qua các tính năng của Instagram như Reels và “People to Follow.”
“Điều quan trọng nhất là khi trẻ vị thành niên bị gạ gẫm tình dục hoặc tiếp xúc không phù hợp, thiết kế sản phẩm của Meta lại không hề có bất kỳ cách thức hiệu quả nào để trẻ em báo cho công ty biết về hành vi gạ gẫm không mong muốn này,” báo cáo cho biết.
Stone cho biết những lo ngại nội bộ về việc hạn chế các thuật ngữ tìm kiếm còn thiếu sót đã được giải quyết bằng cách kết hợp một hệ thống tự động hóa mới với sự can thiệp của con người.
Meta đang có những động thái mới để chứng minh các bước đi của mình nhằm bảo vệ trẻ em. Hôm thứ Năm, công ty đã công bố việc mở rộng tài khoản dành cho thanh thiếu niên cho người dùng Facebook bên ngoài Hoa Kỳ và cho biết sẽ theo đuổi các mối quan hệ đối tác mới tại địa phương với các trường trung học cơ sở và trung học phổ thông.
“Chúng tôi muốn các bậc phụ huynh cảm thấy hài lòng khi con em mình sử dụng mạng xã hội”, Adam Mosseri, giám đốc Instagram, cho biết.
(theo SCMP)
