Các quy định xung quanh việc sử dụng trí tuệ nhân tạo (A.I.) để kinh doanh bắt đầu được chú trọng ở California.
Tuần qua, Hội Đồng Cơ Quan Bảo Vệ Quyền Riêng Tư California (California Privacy Protection Agency board) bỏ phiếu với tỷ số 3-2 để nâng cao các quy tắc về cách các doanh nghiệp sử dụng A.I., và thu thập thông tin cá nhân của người tiêu dùng, công nhân và sinh viên. Cuộc bỏ phiếu diễn ra ở Oakland, tiếp tục một quá trình bắt đầu từ Tháng Mười Một năm 2021.
Các quy tắc được đề xuất nhằm hướng dẫn nhiều lĩnh vực, trong đó A.I., và dữ liệu cá nhân có thể ảnh hưởng đến cuộc sống của người dân California, như lương bổng, thăng chức, giáng chức, nhà ở, bảo hiểm, chăm sóc sức khoẻ, và tình trạng học tập của học sinh.
Ví dụ theo quy định, nếu nhà tuyển dụng muốn sử dụng A.I. để đưa ra dự đoán về trạng thái cảm xúc hoặc tính cách của một người trong cuộc phỏng vấn xin việc, ứng viên có thể từ chối mà không sợ bị phân biệt đối xử.
Theo quy định mới, doanh nghiệp phải thông báo cho mọi người trước khi sử dụng A.I. Nếu ai từ chối tương tác với mô hình A.I., doanh nghiệp phải chấp thuận. Nếu mọi người đồng ý sử dụng dịch vụ hoặc công cụ A.I., doanh nghiệp phải đáp ứng yêu cầu về cách họ sử dụng thông tin cá nhân. Các quy định cũng sẽ yêu cầu người sử dụng lao động hoặc nhà thầu bên thứ ba thực hiện đánh giá rủi ro để đánh giá hiệu suất công nghệ.
Các quy định được đề xuất sẽ ảnh hưởng nhiều công ty có doanh thu hàng năm trên $25 triệu, hoặc xử lý dữ liệu cá nhân của hơn 100,000 người dân California. Một phân tích của Forbes cho thấy 35 trong 50 công ty A.I. hàng đầu thế giới có trụ sở chính tại California.
Một lỗ hổng trí tuệ nhân tạo?
Hơn 20 liên đoàn lao động và các tổ chức về quyền kỹ thuật số cho biết phiên bản mới nhất của các quy tắc, được giới thiệu vài ngày trước cuộc họp, bị giảm bớt và tạo ra những sơ hở khiến các doanh nghiệp trốn tránh trách nhiệm khi sử dụng công nghệ.
Những người ủng hộ quyền kỹ thuật số đó, gồm các tổ chức như Liên Đoàn Lao Động California và Trung Tâm Lao Động UC Berkeley, cho biết các quy tắc loại bỏ tùy chọn từ chối khỏi các phiên bản quy tắc trước đó, và thay đổi định nghĩa của một thuật ngữ chính theo cách có thể bị lợi dụng.
“Các công ty có thể dễ dàng tuyên bố họ không sử dụng các hệ thống tự động ‘tạo điều kiện thuận lợi đáng kể’ cho các quyết định của con người,” một lá thư do những người ủng hộ đưa ra và chia sẻ với CalMatters. “Bản sửa đổi này làm mất đi thông tin cần thiết của cơ quan về cách sử dụng các công cụ thuật toán dễ gặp rủi ro.”
Thành viên hội đồng quản trị Vinhcent Le, người từng làm việc với các luật sư và nhân viên của cơ quan bảo vệ quyền riêng tư để phát triển dự thảo quy tắc đầu tiên hơn hai năm trước, cho biết sự thay đổi ngôn ngữ đó nghe có vẻ giống như một lỗ hổng trong luật.
California là nơi đầu tiên và duy nhất mà nhân viên nhận được thông tin quan trọng về dữ liệu của họ, Giám Đốc Trung Tâm Lao Động UC Berkeley Annette Bernhardt nói với hội đồng quản trị trong buổi bình luận công khai trước cuộc bỏ phiếu và những sửa đổi gần đây có nguy cơ tước đi quyền sử dụng các công cụ thuật toán của nhân viên.
Trong bình luận công khai tại cuộc họp vào Tháng Mười Hai 2023, nhóm kinh doanh đã lập luận ủng hộ việc miễn yêu cầu hồ sơ công khai và loại bỏ phê duyệt đánh giá rủi ro của ban giám đốc công ty. Các lợi ích kinh doanh như Hội Đồng Vùng Vịnh, có thành viên là các công ty A.I. lớn như Amazon, Google và Meta, trước đây cho rằng các định nghĩa quy tắc dự thảo về A.I., và ra quyết định tự động là quá rộng.
Giám đốc điều hành cơ quan bảo vệ quyền riêng tư Ashkan Soltani cho biết ông mong nhận được nhiều ý kiến đóng góp hơn từ công chúng, vì khoảng 90% phản hồi cho đến nay đều đến từ các nhà vận động hành lang kinh doanh.
Vào Tháng Bảy sẽ có một cuộc bỏ phiếu khác về các quy tắc này, nhưng nhân viên cơ quan bảo vệ quyền riêng tư không mong đợi quy tắc này được công bố sớm, ít nhất cũng phải hơn một năm nữa.
