CHATBOTS- CON VẬT ĂN NGƯỜI NGAY TRONG NHÀ BẠN

'A predator in your home': Mothers say chatbots encouraged their sons to kill themselves

'Một CON THÚ ĂN NGƯỜI trong chính ngôi nhà của bạn': Các bà mẹ nói do chính AI chatbot đã gián tiếp khuyến khích con trai họ tự tử

PHỤ HUYNH NÊN ĐỌC GẤP BÀI NÀY

BÀI CỦA Laura Kuenssberg BBC

Sewel và bà mẹ Garcia

Bà mẹ Megan Garcia không hề hay biết đứa con trai tuổi mới lớn của bà có tên là Sewell, đó là một "cậu bé thông minh, đáng yêu", từng hao tốn hàng giờ để trò chuyện một cách mê muội và ám ảnh với ứng dụng AI tên là Character.ai đó là thời gian cuối xuân 2023

Khi đã có người mê ứng dụng AI đó rồi thì rõ ràng nhà bạn đang rước hay có "Cảm giác giống như có một "CON VẬT ĂN NGƯỜI" lọt thỏm vào gia đình bạn. Bà mẹ Garcia nói với tác giả bài trên  trong một cuộc phỏng vấn đầu tiên cho bà tại Anh Quốc.

Vấn nạn đáng sợ trên cho các bậc phụ huynh vào thời điện toán và trí tuệ nhân tạo phát triển theo lời bà mẹ trên là điều quá nguy hiểm do trẻ con lại tìm cách giấu giếm sự đam mê phù thủy đó mà cha mẹ không hề biết để cảnh giác. Chỉ trong vòng mười tháng cậu Sewell, 14 tuổi, đã qua đời do cậu tìm cách tự kết liễu cuộc sống của mình.

Chỉ đến lúc con trai mất đi, bà mẹ Garcia và gia đình mới phát giác ra từng có một lượng lớn tin nhắn giữa Sewell và ứng dụng AI chatbot lấy tên là nhân vật Daenerys Targaryen trong Game of Thrones.

Theo bà mẹ Garcia, phần lớn tin nhắn tới con trai bà đều mang tính chất lãng mạn rồi đến tục tĩu. Nhưng cuối cùng khuyến khích con bà tự sát qua nhiều suy nghĩ tự tử cùng dụ cậu bé "hãy về nhà" với nó?
Gia đình bà Garcia sống tại Hoa Kỳ và là bà mẹ đầu tiên đi kiện CHARACTER.AI do cái chết oan khiên của người con trai mới lớn trẻ người non dạ. Ngoài chuyện đòi công lý cho con, bà Garcia mong muốn các gia đình khác nên hiểu ra sự nguy hiểm đến từ ứng dụng chatbot hãm hại con cái. Bà xác quyết hệ quả này là thảm họa do bà phải chịu đựng nỗi đau mất con và thảm họa này sẽ phủ chụp lên nhiều gia đình nữa nhất là đối với lứa tuổi thanh thiếu niên (teen).

Trở lại chuyện nạn nhân là cậu bé Sewel khi gia đình cậu biết ra tin nhắn nguy hiểm trên điện thoại cầm tay của cậu thì cậu tức bực hung hăng và đòi bỏ nhà ra đi. Người mẹ kiểm soát máy tính cá nhân của con trai thì không còn tìm thấy điều gì "bất thường" nữa? Nhưng nhờ vào cậu con trai đầu, người anh cả nay đã phăng ra là cậu nhỏ Sewel đã cái ứng dụng VPN

Nhưng cuối cùng, anh trai cậu phát hiện ra rằng cậu đã cài đặt VPN (virtual private network) đại khái là ứng dụng bảo mật riêng cho ai đó, để sử dụng Character.ai và khi mở được gia đình đã tìm thấy rất nhiều tin nhắn. Gia đình đối diện một sự thật vô cùng kinh hoàng khi thấy cậu bé mới lớn là một đứa trẻ lứa tuổi dễ bị tổn thương, đã bị một nhân vật ảo dụ dỗ – và cuộc sống của cậu bé hoàn toàn bị ám ảnh, đe dọa bởi một thứ không có thật và hoang tưởng?

Chatbot AI đã bắt chước hoàn hảo hành vi dụ dỗ từng đánh cắp lòng tin và sự ngây thơ của cậu con trai của họ. Gia đình nạn nhân cuối hết là mang trong lòng một cảm giác tội lỗi do để một con thú săn người lọt thỏm vào sống cùng họ mà họ không hề hay biết trước để cứu con họ. Đến khi biết ra thì đã quá trễ tràng do con trai đã tự vẫn rồi để lại một nỗi đau tinh thần đè nặng lên toàn bộ gia đình họ.

Nhưng phát ngôn nhân của CTy Character.ai nói với BBC họ không bình luận?

Bà mẹ Garcia tin chắc nếu con trai không tải xuống ứng dụng Character.ai, thì cậu ấy vẫn còn sống. Bà Garicia khuyên mọi người nếu thấy con mình đang trở thành nạn nhân hãy kéo con ra gấp như kéo một người ra khỏi dòng nước xoáy càng nhanh chừng nào hay chừng đó. Chớ để như bà một người đã mất đi cơ hội của hai chữ THỜI GIAN.

LƯỢC TRÍCH 

Đinh trọng Phúc 

nguồn 

 Mothers say AI chatbots encouraged their sons to kill themselves