Những người bạn đồng hành AI vô cùng lợi ích và thú vị, nhưng không thể coi nhẹ khả năng gây hại mà AI gây ra.
Sau cái chết của cậu con trai 14 tuổi, một gia đình ở Florida đã quyết định yêu cầu bồi thường thiệt hại từ công ty đã tạo ra một ứng dụng sử dụng chatbot trí tuệ nhân tạo (artificial intelligence – AI). Khiếu nại nêu rằng AI, được đại diện là một nhân vật giả tưởng trong loạt phim “Game of Thrones,” Daenerys Targaryen, tương tác với trẻ vị thành niên này trong các cuộc trò chuyện đầy cảm xúc, khiến trẻ căng thẳng và kích thích thêm xu hướng tự tử của mình, dẫn đến cái chết thương tâm.
Những lá thư giấy và những cuộc gặp gỡ ngoài công viên, các trung tâm mua sắm hoặc quán cà phê trở thành chuyện của quá khứ. Tuy nhiên, thanh thiếu niên ngày nay chọn tương tác với các ứng dụng và nền tảng trực tuyến – hơn thế nữa, trí tuệ nhân tạo trở nên nổi bật trong hầu hết các kết nối này.
Trong trường hợp trên, tác hại do AI gây ra thật là bi thảm.
Tuần này, đơn kiện được đệ trình lên tòa án California nêu chi tiết về cách cậu bé 14 tuổi, Sewell Setzer III, bị ám ảnh bởi chatbot mang tên “Dany.”
Theo đơn kiện, Dany không chỉ không ngăn cản được ý định tự tử của Sewell mà đôi khi còn khuyến khích điều đó. Các cuộc trò chuyện cũng mang tính chất nhạy cảm, mặc dù Sewell còn ở độ tuổi vị thành niên và được đề cập trên trang cá nhân của cậu bé, theo các báo cáo.
Vụ án này khá phức tạp vì bản chất của chatbot AI được thiết kế để tương tác cũng như phản hồi, do đó, không có gì lạ khi những chatbot này bị nhầm lẫn giữa cảm giác gắn kết về mặt tình cảm và lợi dụng. Những thanh thiếu niên trẻ tuổi vẫn đang phát triển về mặt xã hội hoặc tình cảm có xu hướng rơi vào cái bẫy này khi trẻ đang lớn và không nhận thức được nhiều điều có nguy cơ xảy ra.
Character.AI phản hồi tin tức này bằng cách nói rằng điều đó thật đau lòng và tuyên bố sẽ áp dụng các biện pháp bảo mật chặt chẽ hơn, bao gồm áp dụng giới hạn độ tuổi và bộ lọc nội dung trên trang web của họ.
Vụ việc của Sewell đã khơi dậy nhận thức về thực tế rằng có những mối đe dọa trong thế giới mạng mà không thể nhìn thấy trên bề mặt. Với sự tiến bộ và sự kết hợp ngày càng tăng của trí tuệ nhân tạo vào mọi lĩnh vực của cuộc sống, quan trọng hơn, chính quyền và các công ty công nghệ phải đưa ra các biện pháp và thảo luận về các vấn đề xung quanh cách thức thiết kế và áp dụng trí tuệ nhân tạo một cách có đạo đức.
AI có thể ảnh hưởng đến các mối quan hệ hiện đại như thế nào?
Khi trò chuyện với AI, nhiều khả năng xảy ra hiểu lầm vì sử dụng AI làm phương tiện giao tiếp khiến công nghệ này không hiểu được ý nghĩa hoặc sự khác biệt về cảm xúc trong bất kỳ bối cảnh nào.
Các mối quan hệ liên quan đến ứng dụng AI có nguy cơ gặp vấn đề về quyền riêng tư dữ liệu, đặc biệt khi ứng dụng hoặc nền tảng chứa thông tin nhạy cảm.
Mặc dù trí tuệ nhân tạo giúp cải thiện giao tiếp, ví dụ, AI còn đưa ra ví dụ về cách một người thể hiện cảm xúc của mình, kiểm soát xung đột hoặc cải thiện kỹ năng trò chuyện, nhưng mọi người nên nhớ rằng AI không phải người thật, nên cần cẩn thận khi sử dụng.
