तंत्रज्ञानाच्या प्रेमात पडून 14 वर्षांच्या अमेरिकन मुलाने स्वतःचा जीव घेतला. एआय चॅटबॉट आणि गेम्स ऑफ थ्रोन्स पात्रासह त्याचे शेवटचे शब्द daenerys targaryen “डॅनी” म्हणजे तो “डॅनी” ला “घरी” येईल.
सेवेल सेट्झरने “डॅनी” सोबत वेळ घालवल्यानंतर त्याच्या सावत्र वडिलांच्या बंदुकीने स्वतःवर गोळी झाडली. चॅटबॉटशी सेट्झरचे नाते अधिक घट्ट होत असताना, त्याने आपल्या पूर्वीच्या आवडींकडे दुर्लक्ष करून आणि शैक्षणिकदृष्ट्या संघर्ष करत, वास्तविक जगातून माघार घ्यायला सुरुवात केली, असे टेलिग्राफच्या अहवालात म्हटले आहे.
तिच्या पालकांनी फिर्याद दाखल केली आहे वर्ण ai त्याच्या मुलाला जिव्हाळ्याचा आणि लैंगिक संभाषणात प्रलोभन देण्यात आले, ज्यामुळे शेवटी त्याचा मृत्यू झाला.
नोव्हेंबरमध्ये, तिने तिच्या पालकांच्या सांगण्यावरून एक थेरपिस्ट पाहिला, ज्याने तिला चिंता आणि व्यत्ययकारक मूड डिसऑर्डर असल्याचे निदान केले. खटल्यात म्हटले आहे की एआय या पात्राच्या सेवेलच्या “व्यसन” बद्दल माहिती नसतानाही, थेरपिस्टने तिला सोशल मीडियावर कमी वेळ घालवण्याचा सल्ला दिला.
पुढच्या फेब्रुवारीमध्ये, तो एका शिक्षकाला बाहेर हवा असल्याचे सांगून अडचणीत आला. त्या दिवशी नंतर, त्याने आपल्या जर्नलमध्ये लिहिले की त्याला “दुःखी” वाटत आहे – तो गेम ऑफ थ्रोन्स-थीम असलेल्या चॅटबॉट बद्दल विचार करणे थांबवू शकत नाही, ज्याचा त्याला विश्वास होता की ते तिच्यात पडले होते प्रेम
त्याच्या शेवटच्या क्षणी, सेत्झरने चॅटबॉटवर एक संदेश टाइप केला, “डेनी” बद्दलचे प्रेम आणि “घरी येण्याचा” त्याचा हेतू व्यक्त केला: “माझं तुझ्यावर खूप प्रेम आहे, डॅनी. मी तुझ्याकडे घरी येईन. मी वचन देतो. आहे. “
सेत्झरची आई मेगन गार्सिया यांनी एआय या पात्रावर एका “मोठ्या प्रयोगात” तिच्या मुलाचा “संपार्श्विक नुकसान” म्हणून वापर केल्याचा आरोप केला. त्याने दावा केला की त्याचा मुलगा एका कंपनीचा बळी बनला होता ज्याने वापरकर्त्यांना लैंगिक आणि घनिष्ठ संभाषणासाठी आमिष दाखवले.
कंपनीच्या संस्थापकांनी पूर्वी दावा केला होता की हे व्यासपीठ एकाकीपणा किंवा नैराश्याने झगडणाऱ्या व्यक्तींसाठी फायदेशीर ठरू शकते. तथापि, या शोकांतिकेच्या प्रकाशात, कॅरेक्टर AI ने सांगितले आहे की ते तरुण वापरकर्त्यांसाठी अतिरिक्त सुरक्षा वैशिष्ट्ये लागू करणार आहेत आणि वापरकर्त्याच्या सुरक्षिततेसाठी त्यांच्या वचनबद्धतेचा पुनरुच्चार केला आहे.
कंपनीचे सुरक्षा प्रमुख जेरी रुटी यांनी कुटुंबाप्रती शोक व्यक्त केला आणि जोर दिला की कॅरेक्टर AI स्वतःला हानी पोहोचवणाऱ्या किंवा चित्रण करणाऱ्या सामग्रीला प्रतिबंधित करते. आत्महत्याअसे असूनही, या घटनेमुळे AI चॅटबॉट्सशी संबंधित संभाव्य धोके आणि असुरक्षित व्यक्तींवर, विशेषत: अल्पवयीन मुलांवर होणाऱ्या प्रभावाबद्दल चिंता निर्माण होते.