Các công ty Trung Quốc đang tạo ra các nhân vật đại diện (avatar) nhờ AI, được gọi là ‘deadbot’, bắt chước những người đã qua đời bằng cách phân tích tài liệu nghe nhìn. Trong khi điều đó mang lại sự an ủi cho ai đau buồn vì mất người thân quen, những nhân vật đại diện gây ra lo ngại về mặt đạo đức, bao gồm tác động tâm lý, quyền sở hữu dữ liệu và các vấn đề về sự đồng ý, cũng như khả năng gián đoạn các quá trình đau buồn tự nhiên.
Trong những năm gần đây, một số công ty Trung Quốc dấn thân vào lĩnh vực gây tranh cãi – tạo ra “deadbot,” các nhân vật đại diện do AI làm, bắt chước những người đã khuất. Các bản sao kỹ thuật số này được tạo ra bởi UP Representative Image. Tài liệu hình ảnh từ người qua đời vào software, do đó, những thành viên trong gia đình đang đau buồn có thể tương tác với các nhân vật đại diện người thân của họ.
Những nhân vật đại diện này có các kỹ năng cơ bản như trò chuyện, mang lại sự an ủi cho một người mất thân nhân.
Công nghệ này phân tích các bản ghi âm giọng nói, hình ảnh và đoạn phim để tạo ra một nhân vật kỹ thuật số giống với người chết, trở nên phổ biến trong số những người muốn kết nối với người thân của mình sau khi họ qua đời.
Một trong những vấn đề nghiêm trọng nhất là tác động về mặt tâm lý đối với người đang đau buồn. Tương tác với mô phỏng kỹ thuật số của người qua đời được xem là cách mà người còn sống không thừa nhận người thân của mình đã chết, không muốn chấp nhận sự mất mát đau thương ấy.
Các chuyên gia cũng nêu ra một số lo ngại về mặt đạo đức của các deadbot, về dữ liệu cá nhân được sử dụng để tạo ra các hình đại diện như vậy mà không có sự đồng ý từ người chết hoặc gia đình của cá nhân đó. Các nhà nghiên cứu của Cambridge cảnh báo rằng các hình đại diện như vậy có nguy cơ “ám ảnh trong không gian mạngm” và các tiêu chuẩn, giao thức về sự đồng ý là cần thiết để ngăn chặn việc sử dụng sai mục đích.
Nora Frey Lindemann, nghiên cứu sinh tiến sĩ trong nhóm nghiên cứu ‘Đạo Đức của AI’ tại University of Osabrück viết trong một bài viết về đạo đức của deathbot, nhấn mạnh sự quan tâm dành cho phẩm giá và quyền tự chủ của người dùng khi họ đang trong hoàn cảnh đau buồn. Lindemann lập luận rằng mặc dù deathbot có khả năng an ủi, nhưng các nhân vật ảo này cũng ảnh hưởng tiêu cực đến quá trình chữa lành “vết thương lòng” của người còn sống.
