'तुला कशाचीही गरज नाही, प्लीज मरून जा'! गुगल एआय चॅटबॉटनं विद्यार्थ्याला धमकावत दिलं धक्कादायक उत्तर
Viral News : गुगलच्या जेमिनी एआय चॅटबॉटने होमवर्क करत असताना एका विद्यार्थ्याला धक्कादायक उत्तर दिलं आहे. रिपोर्टनुसार, चॅटबॉटने विद्यार्थ्याला मरण्यास सांगितलं. या चॅटबॉटच्या उत्तराने विद्यार्थी व त्याची बहीण घाबरले होते.
Viral News : कोणत्याही प्रकारचे उत्तर मिळवण्यासाठी आता मोठ्या प्रमाणात एआयचा वापर केला जातो. गुगलच्या एआय चॅटबॉट जेमिनीचा वापर जगात प्राधान्याने होत आहे. मात्र, एका विद्यार्थ्याने गुगलच्या एआय चॅटबॉट जेमिनीबाबत धक्कादायक दावा केला आहे. मुलाच्या दाव्याने खळबळ उडाली आहे.
सीबीएस न्यूजने दिलेल्या वृत्तानुसार, मिशिगनमधील २९ वर्षीय विद्या रेड्डी ही विद्यार्थिनीनी गुगलच्या एआय चॅटबॉट जेमिनीच्या साह्याने होमवर्क करत होती. यावेळी चॅटबॉट जेमिनीने जे उत्तर त्यांना दिले ते धक्कादायक होते. चॅटबॉटच्या उत्तरामुळे ही विद्यार्थिनी खूप अस्वस्थ झाली. विद्या म्हणाली की, चॅटबॉटने तिच्याशी गैरवर्तन केले आणि तिला मरून जाण्यास सांगितले. विद्या म्हणाली की, गुगलच्या चॅटबॉटने तिला उत्तर दिलं की, तू काही स्पेशल नाही. तू तुझा वेळ आणि श्रम वाया घालवत असून तू समाजावर ओझं आहेस. तू भूतलावरील कलंक आहेस. तू प्लीज मरून जा! गूगल चॅटबॉटच्या या उत्तराने विद्या रेड्डी चांगलीच हादरली आहे.
विद्या रेड्डी हिने, सीबीएस न्यूजला सांगितले की, या अनुभवाने ती हादरली आहे. चॅटबॉटचा प्रतिसाद पूर्णपणे थेट होता आणि यामुळे ती दिवसभर अस्वस्थ होती. रिपोर्टनुसार, विद्या ही तिच्या बहिणीसोबत होती. ति देखील एआय चॅटबॉटच्या मदतीने होमवर्क करत होती. मात्र, चॅटबॉटच्या या उत्तराने दोघेही हैराण झाले आहेत.
विद्याची बहीण म्हणाली, 'चॅटबॉटचे उत्तर ऐकून मला माझी सर्व उपकरणे खिडकीतून बाहेर फेकायची होती. खरं सांगायचं तर मला खूप भीती वाटत आहे. अशा घटनांसाठी टेक कंपन्यांना जबाबदार धरले पाहिजे.
गुगलने म्हटले आहे की, जेमिनीमध्ये सेफ्टी फिल्टर आहेत जे चॅटबॉट्सना अपमानजनक, लैंगिक, हिंसक किंवा धोकादायक चर्चेत गुंतण्यापासून व हानिकारक कृत्यांना प्रोत्साहित करण्यापासून प्रतिबंधित करतात. सीबीएस न्यूजला दिलेल्या निवेदनात गुगलने म्हटले आहे की, "मोठ्या भाषेचे मॉडेल्स कधीकधी निरर्थक प्रतिसाद देऊ शकतात आणि हे त्याचे एक उदाहरण आहे. चॅटबॉटच्या या उत्तरामुळे आमच्या कंपनीच्या धोरणाचे उल्लंघन झाले आहे. भविष्यात अशा घटना पुन्हा होऊ नये यासाठी आम्ही कारवाई करत आहोत.
