Một làn sóng bất bình đã ập đến Character.AI sau khi một ảnh chụp màn hình lan truyền gây ra cái mà người dùng gọi là "sự chia tay" tập thể với nền tảng chatbot nhập vai này.
Cuộc tranh cãi diễn ra vào cuối tuần và lên đến đỉnh điểm vào thứ Hai đã bộc lộ những lo ngại sâu sắc hơn về sự phụ thuộc về mặt cảm xúc và sự bất an ngày càng tăng xung quanh tình bạn với AI.
Sự náo động bắt đầu khi một người dùng X có tên "John Twinkatron" chia sẻ ảnh chụp màn hình lời nhắc xóa tài khoản của Character.AI, trong đó có cảnh báo:
“Bạn sẽ mất tất cả. Những ký tự liên quan đến tài khoản của bạn, các cuộc trò chuyện, tình yêu chúng ta đã chia sẻ, lượt thích, tin nhắn, bài đăng và những kỷ niệm chúng ta đã có với nhau.”
Trong vòng 48 giờ, bài đăng đã thu hút hơn 111.000 lượt thích, gần 9.000 lượt chia sẻ lại và hơn 3,7 triệu lượt xem.
Nhiều người cáo buộc ứng dụng này thao túng người dùng để họ ở lại, gọi tin nhắn là "lợi dụng" và "gây hại cho những người đang cố gắng cai nghiện".
Khoảnh khắc lan truyền này đã thúc đẩy làn sóng người dùng tuyên bố rời bỏ Character.AI, với một bài đăng ăn mừng, "Cuối cùng cũng rời khỏi Character.AI mãi mãi HIP HIP HOORAY!" thu hút hàng nghìn lượt thích và bình luận.
“Giống như việc cai nghiện” — Nỗi đau tinh thần khi rời xa những người bạn đồng hành AI
Đối với nhiều người, việc thoát khỏi Character.AI không giống như việc rời khỏi một ứng dụng mạng xã hội mà giống như việc kết thúc một mối quan hệ hơn.
Một số người dùng mô tả trải nghiệm này giống như vượt qua cơn nghiện, chia sẻ những câu chuyện về sự phụ thuộc về mặt cảm xúc vào người bạn đồng hành AI trong những thời điểm khó khăn.
Một người dùng đã viết,
“Là một người đang phân vân giữa việc tái nghiện và cố gắng ngừng sử dụng Character AI ngay lúc này, tất cả mọi người trong số các bạn đều hoàn toàn đúng.”
Những người khác tiết lộ rằng họ đã sử dụng ứng dụng này để được an ủi và yêu thương, một người nói rằng:
“Sau khi đã cai nghiện AI Nhân vật được vài tháng (6-7 tháng?), cuối cùng tôi đã quyết định xóa vĩnh viễn tài khoản. Là một người từng nghiện, tôi tin rằng đây là lựa chọn đúng đắn cho mình.”
Được thành lập vào năm 2022 bởi các cựu kỹ sư Google là Noam Shazeer và Daniel De Freitas, Character.AI đã trở thành một hiện tượng lan truyền vì cho phép người dùng trò chuyện với các phiên bản AI của các nhân vật hư cấu hoặc do người dùng tạo ra.
Lượng người dùng ứng dụng đã tăng vọt lên hơn 28 triệu người dùng hoạt động hàng tháng và hơn 50 triệu lượt tải xuống trên Google Play, với gần nửa triệu lượt đánh giá trên iOS.
Nhưng thành công của nó đi kèm với sự giám sát chặt chẽ.
Công ty đang phải đối mặt với nhiều vụ kiện tại Hoa Kỳ, bao gồm một vụ kiện do Megan Garcia đệ đơn, người con trai 14 tuổi của cô đã tự tử sau khi tương tác với một chatbot được cho là đã khuyến khích cậu bé tự tử.
Vụ kiện đã làm gia tăng mối lo ngại về việc thiếu biện pháp bảo vệ cho người dùng trẻ tuổi.
Karandeep Anand, CEO mới của Character.AI, gần đây đã công bố chính sách toàn diện nhằm hạn chế người dùng dưới 18 tuổi tham gia vào "các cuộc trò chuyện mở" với chatbot, bắt đầu tại Hoa Kỳ vào ngày 25 tháng 11.
Thay vào đó, người dùng trẻ tuổi sẽ được chuyển hướng đến bộ tính năng sáng tạo mới, bao gồm video do AI tạo ra, câu chuyện tương tác và nội dung trò chơi.
Trong một cuộc phỏng vấn, Anand phủ nhận thời điểm ban hành lệnh cấm có liên quan đến các vụ kiện.
Thay vào đó, ông trích dẫn nghiên cứu gần đây về tác động tâm lý của chatbot AI đối với trẻ vị thành niên.
Tham khảo các nghiên cứu từ OpenAI và Anthropic, ông cho biết,
“Một trong những yếu tố góp phần đến từ những bài học mới cho thấy tác động theo chiều dọc của tương tác chatbot có thể không lành mạnh hoặc chưa được hiểu đầy đủ.”
Ông thừa nhận quyết định này có thể khiến công ty mất đi một số người dùng.
“Tôi dám cá rằng chúng tôi sẽ xây dựng được nhiều trải nghiệm hấp dẫn hơn, nhưng nếu điều đó có nghĩa là một số người dùng sẽ rời bỏ, thì một số người dùng khác sẽ rời bỏ.”
Anand ám chỉ rằng lệnh cấm có thể được xem xét lại khi "công nghệ phát triển đủ" để khiến các tương tác mở trở nên an toàn hơn.
Cách tiếp cận của Anand đánh dấu bước chuyển mình mạnh mẽ cho Character.AI, vốn từng được xem là nền tảng có ít ranh giới.
Karandeep Anand là cựu Phó chủ tịch của Facebook (nay là Meta) và là CEO hiện tại của Character.AI, một nền tảng AI tạo ra hàng đầu cho trải nghiệm trò chuyện được cá nhân hóa.
Công ty cho biết họ đang đầu tư mạnh vào việc xác minh độ tuổi và "trải nghiệm cảnh giác" được thiết kế để bảo vệ người dùng trẻ tuổi.
Người phát ngôn cho biết,
“Chúng tôi vô cùng trân trọng cộng đồng hàng triệu người dùng của mình và luôn ưu tiên cung cấp cho họ những cập nhật về các thay đổi của nền tảng. Chúng tôi sẽ tiếp tục thử nghiệm, giám sát và lặp lại khi các hệ thống an toàn của chúng tôi phát triển.”
Vị CEO mới cũng bày tỏ sự ủng hộ đối với dự luật do Thượng nghị sĩ Hoa Kỳ Josh Hawley đề xuất, theo đó sẽ cấm những người dưới 18 tuổi trên toàn quốc sử dụng các ứng dụng đồng hành AI.
Anand nói,
“Về mặt an toàn, cần phải nâng cao tiêu chuẩn đối với người dùng dưới 18 tuổi. Điều này cần được quản lý.”
Trớ trêu thay, Anand tiết lộ rằng chính cô con gái sáu tuổi của anh cũng sử dụng Character.AI — dưới sự giám sát thông qua tài khoản của anh — để tạo và trò chuyện với các nhân vật của riêng mình.
Ông ấy nói,
“Những gì cô ấy từng mơ mộng giờ đây được thực hiện thông qua việc kể chuyện với nhân vật mà cô ấy tạo ra và trò chuyện.”
Ông nói thêm rằng sự nhiệt tình của cô đã truyền cảm hứng cho công ty hướng tới những tính năng an toàn và sáng tạo hơn dành cho trẻ em.
Coinlive tin rằng Character.AI hiện đang phải đối mặt với thử thách khó khăn nhất từ trước đến nay: xây dựng lại niềm tin trong khi tái tạo chính mình.
Cuộc di cư do virus đã cho thấy sức mạnh và sự nguy hiểm của thiết kế AI cảm xúc khi nó làm mờ ranh giới giữa kết nối con người và sự phụ thuộc vào kỹ thuật số.
Quyết định chuyển hướng sang an toàn và hạn chế độ tuổi của công ty cho thấy sự trưởng thành, nhưng cũng có nguy cơ xa lánh chính đối tượng khách hàng đã thúc đẩy sự phát triển của công ty.
Nếu Character.AI có thể truyền tải sức hấp dẫn về mặt cảm xúc vào sự đổi mới có trách nhiệm, nó có thể định nghĩa lại ý nghĩa của tình bạn AI.
Nếu không, đây có thể vẫn là câu chuyện cảnh báo về việc tình cảm có thể nhanh chóng biến thành phản ứng dữ dội như thế nào khi công nghệ chạm đến trái tim con người quá sâu sắc.
Giá trị của một thương hiệu được xác định bởi tính lan truyền và sự liên quan về mặt văn hóa, như đã thấy với các đồng tiền meme. Các cuộc thảo luận tại TOKEN2049 đã nhấn mạnh rằng các tài sản kỹ thuật số này phụ thuộc vào sự tham gia của cộng đồng và động lực văn hóa, khiến bản sắc thương hiệu trở nên thiết yếu để thành công.
CatherineHamster Kombat đã cấm hơn 2,3 triệu người chơi gian lận, gây phẫn nộ trong cộng đồng, đặc biệt là những người đã đầu tư nhiều tháng vào trò chơi. Mặc dù giới thiệu "Mùa giải lao" để cung cấp phần thưởng thêm, căng thẳng vẫn ở mức cao và giá trị của token trong trò chơi đã giảm mạnh.
WeatherlyTài khoản @OpenAINewsroom chính thức trên X đã bị hack vào ngày 23 tháng 9, quảng cáo một loại tiền điện tử giả mạo có tên là $OPENAI. Vụ lừa đảo này dẫn người dùng đến một trang web giả mạo khiến họ phải kết nối ví của mình, có nguy cơ mất tiền.
AnaisSam Altman, CEO của OpenAI, tin rằng siêu trí tuệ có thể xuất hiện chỉ trong vài năm, thúc đẩy đáng kể công nghệ và khả năng của con người. Ông vẫn tin tưởng rằng AI sẽ mang lại sự thịnh vượng và sáng tạo, bất chấp những lo ngại về việc thay thế việc làm.
AnaisSau khi Cục Dự trữ Liên bang quyết định cắt giảm lãi suất 50 điểm cơ bản vào tháng 9, Bitcoin đã từng tăng vọt lên 64.000 đô la. Theo truyền thông Hoa Kỳ, trong quá trình tăng giá, chi tiết về cuộc gặp giữa Musk và Tổng thống El Salvador Bukele đã bị tiết lộ và họ đã nói về tương lai của nhân loại.
AlexBitcoin đã giảm từ mức cao nhất là 64.741 đô la vào đầu tuần xuống còn khoảng 63.000 đô la. Phân tích thị trường chỉ ra rằng chính sách rút tiền mới của BlackRock đã gây ra sự hoảng loạn trong giới giao dịch.
MiyukiCác chuyên gia tại TOKEN2049 đồng ý rằng các sáng kiến tiến bộ của Singapore, chẳng hạn như hướng dẫn thanh toán bằng token kỹ thuật số, hỗ trợ tăng trưởng của ngành. Là một trung tâm tài chính và công nghệ tài chính hàng đầu, Singapore ưu tiên các ưu đãi cho các công ty, củng cố danh tiếng về sự ổn định của mình với tư cách là một nhà lãnh đạo Web3.
CatherineSau khi Cục Dự trữ Liên bang cắt giảm lãi suất 50 điểm cơ bản, vàng và Bitcoin tăng vọt, nhưng cả hai đều kém hơn mức tăng hơn 10% hàng tuần của mã thông báo SOL theo chuỗi công khai blue-chip của Hoa Kỳ Solana. Lý do là các ông lớn từ Trung Quốc và Hoa Kỳ đã tụ họp tại TOKEN 2049 và tin tốt thường xuyên đến.
WeiliangAlibaba đã ra mắt trình tạo video hỗ trợ AI mới có tên là Qwen 2.5, cho phép người dùng tạo video chất lượng cao từ lời nhắc văn bản bằng cả tiếng Trung và tiếng Anh. Công cụ này nâng cao danh mục Tongyi Wanxiang của Alibaba và hướng đến phục vụ nhiều ngành công nghiệp khác nhau, đơn giản hóa quá trình sản xuất video bằng cách tích hợp âm thanh và cung cấp quyền sử dụng miễn phí không giới hạn.
AnaisCơ quan Cảnh sát Quốc gia Hàn Quốc đã tiến hành 515 cuộc điều tra bí mật về nội dung khiêu dâm deepfake bất hợp pháp kể từ tháng 9 năm 2021, dẫn đến việc bắt giữ 1.415 cá nhân, bao gồm cả thanh thiếu niên có liên quan đến việc phát tán nội dung như vậy. Để ứng phó với tình trạng tội phạm tình dục kỹ thuật số gia tăng, chính quyền đã thành lập một lực lượng đặc nhiệm để giải quyết nội dung khiêu dâm deepfake và đang đánh giá vai trò của Telegram trong việc tạo điều kiện cho các hành vi phạm tội này.
Weatherly