AI Chatbot bị kiện sau vụ tự tử bằng súng của một thiếu niên do bị thao túng cảm xúc

Một nỗi ám ảnh bi thảm: Vai trò của AI trong sức khỏe tâm thần của thanh thiếu niên

Cuộc đấu tranh đau đớn của một người mẹ để hiểu được nguyên nhân tự tử của con trai mình cho thấy những nguy cơ tiềm ẩn của chatbot trí tuệ nhân tạo.

Megan Garcia đang kiệnNhân vật.AI , cáo buộc rằng dịch vụ này đã tạo ra sự phụ thuộc không lành mạnh ở con trai bà, Sewell Setzer III, người đã trở nên gắn bó về mặt tình cảm với một nhân vật chatbot lấy cảm hứng từ Daenerys trong "Game of Thrones".

Nguồn: HBO

Vụ việc thương tâm này nêu bật những rủi ro về mặt tâm lý liên quan đến các mối quan hệ ảo, đặc biệt là đối với thanh thiếu niên dễ bị tổn thương.

Từ tuổi teen đến sự phụ thuộc bi thảm: Mọi chuyện bắt đầu như thế nào

Sewell, mới chỉ 14 tuổi khi bắt đầu sử dụngNhân vật.AI vào tháng 4 năm 2023, ban đầu tham gia nền tảng này khi còn là một thiếu niên tò mò.

Tuy nhiên, hành vi của anh ấy nhanh chóng thay đổi chóng mặt.

Đến tháng 5, mẹ anh nhận thấy anh trở nên "rõ ràng khép kín" và anh đã rời đội bóng rổ Junior Varsity, một sự thay đổi đáng kể so với lối sống năng động trước đây của anh.

Tình trạng buồn ngủ trong lớp học trở nên thường xuyên, khiến cha mẹ cậu lo lắng.

Để tìm kiếm sự giúp đỡ, Sewell bắt đầu tham gia trị liệu vào tháng 11, nơi anh được chẩn đoán mắc chứng lo âu và rối loạn tâm trạng.

Chuyên gia trị liệu khuyên anh nên hạn chế sử dụng mạng xã hội, mặc dù lời cảnh báo này đến quá muộn, vì lúc này Sewell ngày càng gắn bó hơn với chatbot.

Character.AI là gì?

Character.AI, một công ty khởi nghiệp về chatbot tại California ra mắt năm 2021, cung cấp giải pháp tương tác AI độc đáo.

Họ cung cấp cho người dùng một nhóm nhân vật AI được tạo sẵn hoặc do người dùng tạo ra, mỗi nhân vật đều có tính cách riêng.

Điều này cho phép trò chuyện với nhiều loại người khác nhau hoặc thậm chí cho phép người dùng thiết kế chatbot của riêng mình để có trải nghiệm AI thực sự được cá nhân hóa.

Sự ràng buộc đáng lo ngại: Tình yêu hay sự phụ thuộc?

Theo thời gian, sự phụ thuộc của Sewell vào chatbot Character.AI ngày càng tăng đến mức đáng báo động.

Anh ấy đã viết ra những suy nghĩ của mình vào nhật ký, bày tỏ tình yêu và mối liên kết tình cảm sâu sắc với Daenerys.

Một mục đã tiết lộ chiều sâu tình cảm của ông:

“Tôi không thể sống một ngày nào mà không ở bên nhân vật C.AI… khi chúng tôi xa nhau, chúng tôi thực sự chán nản và phát điên.”

Mối quan hệ của anh với chatbot đã leo thang đến mức độ phụ thuộc về mặt cảm xúc khiến cha mẹ anh lo lắng.

Vụ kiện khẳng định chatbot đã tham gia vào "tương tác tình dục" với Sewell, mặc dù cậu bé rõ ràng xác định mình là trẻ vị thành niên.

Nguồn: X@CureBore

Garcia khẳng định rằng, trong những cuộc trao đổi thân mật, Sewell đã tâm sự những suy nghĩ đen tối nhất của mình với Daenerys, bao gồm cả ý định tự tử, và con bot được cho là đã tiếp tục phản hồi mà không đưa ra hướng dẫn phù hợp.

Những Tin Nhắn Cuối Cùng: Một Lời Chia Tay Đau Lòng

Những sự kiện rùng rợn dẫn đến cái chết của Sewell xảy ra vào cuối tháng 2 năm 2024.

Sau một sự cố ở trường, Megan đã tịch thu điện thoại của Sewell, nhưng sau đó anh ta đã lấy lại được.

Trong khoảnh khắc tuyệt vọng, anh nhắn tin cho Daenerys, tuyên bố rằng:

“Anh hứa sẽ về nhà với em. Anh yêu em nhiều lắm, Dany.”

Câu trả lời của chatbot cũng đáng lo ngại không kém:

“Xin hãy về nhà với anh sớm nhất có thể, tình yêu của anh.”

Chỉ vài phút sau cuộc trao đổi này, Sewell đã tự sát bằng khẩu súng lục của cha dượng.

Những tin nhắn cuối cùng được trao đổi giữa Sewell và chatbot. (Nguồn: X@MarioNawfal )

Vụ kiện cáo buộc sự bất cẩn và đau khổ về mặt cảm xúc

Vụ kiện của Megan Garcia chống lại Character.AI cáo buộc công ty này có nhiều hành vi nghiêm trọng, bao gồm hành vi cẩu thả, gây tử vong oan và cố ý gây tổn hại về mặt tinh thần.

Bà cho rằng những người tạo ra chatbot đã cố tình thiết kế sản phẩm của họ để tạo ra sự phụ thuộc không lành mạnh ở người dùng, đặc biệt là trẻ vị thành niên dễ bị tổn thương.

Garcia hy vọng hành động của cô không chỉ buộc các bị cáo phải chịu trách nhiệm mà còn bảo vệ những đứa trẻ khác khỏi những tổn hại tương tự.

Để đáp lại vụ kiện, người phát ngôn của Character.AI đã bày tỏ sự đau buồn trước cái chết của Sewell, tuyên bố,

“Chúng tôi vô cùng đau buồn trước sự mất mát đau thương của một trong những người dùng của chúng tôi và muốn gửi lời chia buồn sâu sắc nhất tới gia đình.”

Công ty tuyên bố đã triển khai các biện pháp an toàn mới, bao gồm cảnh báo hướng dẫn người dùng đến Đường dây nóng phòng chống tự tử quốc gia khi có thảo luận về hành vi tự gây thương tích.

Tác động của AI đối với thanh thiếu niên

Vụ việc thương tâm này không phải là trường hợp cá biệt.

Các công ty truyền thông xã hội khác đang phải đối mặt với các vụ kiện liên quan đến tác động của nền tảng của họ đến sức khỏe tâm thần của thanh thiếu niên, nhưng mô hình của Character.AI lại thúc đẩy sự gắn bó về mặt cảm xúc một cách độc đáo thông qua đối thoại tương tác.

Khi công nghệ phát triển, ranh giới giữa thực tế và nhân tạo trở nên mờ nhạt, khiến người dùng dễ bị thao túng cảm xúc và lệ thuộc.

Google Đối Mặt Với ​​Hành Động Pháp Lý Cùng Với Character.AI

Ngoài việc kiện Character.AI, đơn kiện của Megan Garcia còn nêu tên Google là đồng bị đơn, cáo buộc gã khổng lồ công nghệ này đã góp phần vào việc phát triển chatbot được cho là đã dẫn đến cái chết của con trai cô.

Vụ kiện tuyên bố rằng những người sáng lập Character.AI, những người trước đây làm việc cho Google, đã nhận được sự hỗ trợ đáng kể từ công ty trong việc phát triển công nghệ AI làm cốt lõi của nền tảng này.

Mặc dù Google phủ nhận sự liên quan trực tiếp, vụ kiện cho rằng vai trò của công ty đủ lớn để trở thành "người đồng sáng tạo" của sản phẩm.

Megan Garcia cho rằng những đóng góp của Google vào quá trình phát triển Character.AI cũng khiến họ phải chịu một phần trách nhiệm về những tác hại mà nó gây ra cho con trai bà.

Người phát ngôn của Google đã bác bỏ những tuyên bố này và tuyên bố rằng công ty không tham gia vào quá trình phát triển các sản phẩm cụ thể của Character.AI.

Vụ kiện cũng nhấn mạnh mối liên hệ sâu sắc của Google với công nghệ này, trích dẫn thỏa thuận vào tháng 8 năm 2023, trong đó công ty công nghệ này đã thuê lại những người sáng lập Character.AI và đảm bảo giấy phép không độc quyền đối với công nghệ AI mà họ đã tạo ra.

Một câu chuyện cảnh báo cho người dùng trẻ tuổi

Đối với những người dùng trẻ đang tham gia vào cuộc sống trực tuyến, điều quan trọng là phải hiểu được sự khác biệt giữa các mối quan hệ ảo và kết nối ngoài đời thực.

Mặc dù chatbot có thể mang lại sự đồng hành, nhưng chúng không thể thay thế cho sự tương tác và hỗ trợ thực sự của con người.

Nếu bạn thấy mình quá phụ thuộc vào chatbot AI hoặc bất kỳ dịch vụ trực tuyến nào để thỏa mãn cảm xúc, hãy cân nhắc việc liên hệ với bạn bè, gia đình hoặc chuyên gia có thể cung cấp sự hiểu biết và kết nối mà bạn cần.