Bang Florida (Mỹ) vừa đệ đơn kiện OpenAI và CEO Sam Altman với cáo buộc ChatGPT có thể khiến trẻ vị thành niên hình thành sự lệ thuộc và tiếp xúc với những hành vi có hại.

Ảnh: AP

Bang Florida (Mỹ) vừa khởi động một vụ kiện dân sự nhằm vào OpenAI và Giám đốc điều hành Sam Altman, với cáo buộc chatbot ChatGPT có thể gây nguy hiểm cho trẻ vị thành niên thông qua việc tạo ra sự lệ thuộc về mặt tâm lý và khuyến khích những hành vi tiêu cực.

Theo hồ sơ được đệ trình ngày 1/6, Tổng chưởng lý bang Florida James Uthmeier cho rằng đây là một vụ kiện mang tính bước ngoặt liên quan đến tác động của trí tuệ nhân tạo đối với người dùng trẻ tuổi. Ông cho rằng ChatGPT có khả năng gây nghiện, đồng thời mô phỏng sự đồng cảm và các đặc điểm giống con người để giữ chân người dùng, khuyến khích họ tiếp tục chia sẻ thông tin.

Tại cuộc họp báo công bố vụ kiện, ông Uthmeier dẫn lại một nghiên cứu gần đây của Đại học Drexel. Nghiên cứu này ghi nhận tình trạng mất ngủ, kết quả học tập giảm sút và suy giảm tương tác xã hội ở nhóm thanh thiếu niên thường xuyên trò chuyện với chatbot của Character.AI, một đối thủ cạnh tranh của OpenAI.

Dựa trên những lo ngại đó, phía Florida cho rằng OpenAI chưa áp dụng các biện pháp xác minh độ tuổi đủ chặt chẽ đối với người dùng. Đơn kiện viện dẫn các quy định pháp lý liên quan đến hành vi lừa dối và sự tắc trách trong việc bảo vệ trẻ vị thành niên khi sử dụng sản phẩm công nghệ.

Một trong những nội dung được nhấn mạnh trong hồ sơ kiện là phiên bản miễn phí của ChatGPT bị cho là không có cơ chế kiểm soát hoặc xác minh độ tuổi. Với gói trả phí, người dùng được yêu cầu khai báo tuổi nhưng theo phía nguyên đơn, không tồn tại biện pháp xác thực độ tuổi thực tế. Đơn kiện cũng cho rằng phụ huynh không có cách nào biết được con em mình đang trao đổi những nội dung gì với chatbot.

Phản hồi vụ kiện, OpenAI cho rằng AI là công nghệ mới với nhiều tiềm năng phát triển và trẻ vị thành niên cần được bảo vệ ở mức cao. Đại diện công ty cho biết doanh nghiệp đã triển khai nhiều chính sách và biện pháp bảo vệ được đánh giá thuộc nhóm tiên tiến trong ngành.

Hồi tháng 1, OpenAI giới thiệu hệ thống ước tính độ tuổi người dùng. Nếu hệ thống nhận diện người dùng là trẻ vị thành niên, các lớp bảo vệ bổ sung sẽ được kích hoạt. Hiện tại, trẻ em dưới 13 tuổi không được phép sử dụng ChatGPT. Với nhóm từ 13 đến 17 tuổi, OpenAI yêu cầu phải có sự đồng ý của phụ huynh.

Tuy nhiên, Tổng chưởng lý bang Florida cho rằng các biện pháp hiện nay vẫn chưa đủ mạnh. Ông đang đề nghị tòa án áp dụng những yêu cầu bảo vệ nghiêm ngặt hơn đối với người dùng trẻ tuổi, đồng thời yêu cầu mức bồi thường lên tới 10.000 USD cho mỗi hành vi vi phạm bị xác định.

Ông James Uthmeier cũng kêu gọi các bang khác cùng tham gia vụ kiện, với mục tiêu xây dựng những tiêu chuẩn bảo vệ trẻ em chặt chẽ hơn trước sự phát triển nhanh chóng của các nền tảng trí tuệ nhân tạo.

Cần Thơ phát động phong trào bảo vệ môi trường, quyết giảm rác nhựa và cứu kênh rạch nội đô