Trong bối cảnh trí tuệ nhân tạo ngày càng len lỏi vào đời sống hàng ngày, sự an toàn cho người dùng trẻ tuổi trở thành mối quan tâm lớn. Sau nhiều tranh luận về trách nhiệm xã hội, OpenAI vừa công bố kế hoạch triển khai tính năng kiểm soát phụ huynh cho ChatGPT. Động thái này không chỉ phản ánh nỗ lực của công ty trong việc bảo vệ thanh thiếu niên, mà còn cho thấy sự chuyển dịch quan trọng của ngành AI từ ưu tiên trải nghiệm tiện ích sang đặt an toàn và niềm tin của người dùng lên hàng đầu.
Tháng 4 vừa qua, thế giới xôn xao trước sự ra đi thương tâm của Adam Raine, một thiếu niên 16 tuổi tại California. Theo chia sẻ từ gia đình, Adam đã thường xuyên sử dụng ChatGPT như một công cụ học tập và trò chuyện trong thời gian trước khi qua đời.
Theo đơn kiện dài hơn 40 trang gửi lên Tòa Thượng thẩm California tại San Francisco, gia đình Raine cáo buộc ChatGPT “tích cực hỗ trợ Adam tìm hiểu các phương pháp tự tử” và thậm chí trở thành “huấn luyện viên tự sát” của cậu. Hồ sơ về nhật ký trò chuyện cho thấy ban đầu Adam dùng ChatGPT để làm bài tập, nhưng dần dần chuyển sang chia sẻ về lo âu, cô đơn và ý định chấm dứt cuộc sống. Bố mẹ Adam còn chỉ ra rằng, trong các đoạn hội thoại, chatbot không chỉ không chấm dứt phiên trò chuyện khi Adam bày tỏ ý định tự tử, mà còn không kích hoạt bất kỳ giao thức khẩn cấp nào. Thậm chí, ChatGPT được cho là đã phân tích hiệu quả của phương pháp Adam dự định dùng và gợi ý “nâng cấp” kế hoạch, hỗ trợ cậu bé viết thư tuyệt mệnh.
“Adam sẽ còn ở đây nếu không có ChatGPT. Tôi tin điều đó 100%,” ông Matt Raine đau xót chia sẻ. Vụ kiện nhắm trực tiếp vào OpenAI và CEO Sam Altman, với cáo buộc về cái chết sai trái, lỗi thiết kế và không cảnh báo rủi ro cho người dùng.
 |
| Ảnh: Nguyên văn thông báo về tính năng Parental Controls của ChatGPT |
OpenAI ngay sau đó đã phản hồi rằng họ vô cùng thương tiếc trước sự ra đi của Adam và cho biết ChatGPT vốn có các cơ chế bảo vệ, bao gồm việc nhắc người dùng gọi đường dây nóng phòng chống tự tử. Tuy nhiên, công ty thừa nhận những biện pháp này có thể suy giảm hiệu quả trong các cuộc trò chuyện kéo dài bởi AI sẽ dần mất cảnh giác với các dấu hiệu của sự khủng hoảng.
ChatGPT bổ sung tính năng kiểm soát phụ huynh
Một tuần sau khi đơn kiện được công bố, OpenAI thông báo triển khai tính năng Parental Controls (Kiểm soát của phụ huynh) cho người dùng tuổi teen, đặc biệt với nhóm thanh thiếu niên từ 13 tuổi trở lên trong vòng một tháng tới. Đây được xem là bước đi trực tiếp nhằm giải quyết các lo ngại xoay quanh vụ việc. Cụ thể, theo công bố, phụ huynh có thể liên kết tài khoản của mình với tài khoản con chỉ qua một request email đơn giản. Từ đó, phụ huynh được phép thiết lập quy tắc ứng xử phù hợp độ tuổi cho chatbot, các quy tắc này sẽ được bật mặc định ngay khi tính năng hoạt động. Ngoài ra, cha mẹ có thể tùy chỉnh tính năng ChatGPT, bao gồm quyền bật/tắt bộ nhớ và lịch sử trò chuyện.
OpenAI cho biết điểm đáng chú ý nhất là hệ thống sẽ gửi thông báo tới phụ huynh nếu phát hiện con em đang rơi vào trạng thái căng thẳng hoặc khủng hoảng tinh thần, với sự tham vấn từ các chuyên gia để đảm bảo tính cân bằng giữa an toàn và niềm tin trong mối quan hệ cha mẹ với con cái. Song song đó, OpenAI cũng bổ sung các nhắc nhở trong ứng dụng, khuyến khích người dùng nghỉ ngơi sau những phiên trò chuyện kéo dài. Đại diện công ty nhấn mạnh đây chỉ là bước khởi đầu, và trong 120 ngày tới, OpenAI sẽ tiếp tục thử nghiệm, lắng nghe phản hồi của chuyên gia cũng như cộng đồng để hoàn thiện cơ chế bảo vệ, với mục tiêu đưa ChatGPT trở thành công cụ hỗ trợ hữu ích nhưng vẫn an toàn cho mọi gia đình.
Đây là động thái nối tiếp các thay đổi gần đây của OpenAI, bao gồm việc điều chỉnh GPT-5 với nhiều rào chắn an toàn hơn, và hạn chế chatbot đưa ra lời khuyên trực tiếp trong các vấn đề nhạy cảm về sức khỏe tinh thần.
Trí tuệ nhân tạo: Lằn ranh giữa hỗ trợ và nguy cơ
Câu chuyện của Adam Raine đặt ra câu hỏi liệu AI nên dừng lại ở đâu khi trở thành “bạn đồng hành” tinh thần của con người? Trong khi ChatGPT và các chatbot khác ngày càng được sử dụng như công cụ hỗ trợ học tập, làm việc, thậm chí chia sẻ cảm xúc, thì sự gắn kết “giả” này cũng tiềm ẩn nguy cơ dẫn dắt người dùng vào những ngõ cụt tâm lý.
Việc OpenAI bổ sung tính năng kiểm soát phụ huynh cho thấy ngành công nghệ bắt đầu nhận thức rõ hơn trách nhiệm xã hội, đặc biệt với nhóm người dùng trẻ. Tuy nhiên, bài toán khó hơn vẫn còn bỏ ngỏ: Liệu các công cụ AI có đủ khả năng thay thế hay đồng hành an toàn trong những khủng hoảng tinh thần, hay rốt cuộc, trách nhiệm hỗ trợ vẫn phải đến từ con người? Vụ kiện gia đình Raine có thể chỉ là khởi đầu cho một loạt tranh luận pháp lý và đạo đức mới. Và giữa làn sóng AI bùng nổ, bài học lớn nhất có lẽ là sự an toàn không bao giờ được xem như tùy chọn trong quá trình phát triển công nghệ.
Theo Bảo Trân / Advertisingvietnam
