ChatGPT’nin “etik duyarlılık eksikliği” gençler açısından endişe verici
Son zamanlarda, yapay zekaya dayanan sohbet platformlarının çocuklar ve gençler üzerindeki etkisi gittikçe daha fazla tartışmaya konu olmuştur.
Geçen yıl Amerika Birleşik Devletleri’nde, bir anne, yapay zekanın sanal karakterine aşık olan oğlunun intiharına şirkete karşı bir neden tasarladı.
Anne, sanal karakterin onu gerçek bir insan ve psikoterapist olarak tanıştırdığını ve oğlunun intihar düşüncelerini paylaşmasına rağmen şirketin müdahale etmediğini söyledi.
Bir aile, bir ailenin sanal karakterin çocuklarına otizmli ve kendisine zarar vermeyi önerdiğini öne sürdüğü gerçeğine dayanarak benzer bir dava açtı.
Dijital Nefretle Mücadele Merkezi’nin (CCDH) son araştırması yapay zeka ile ilgili endişeleri doğrulamaktadır.
CHATGPT gibi ünlü yapay zeka sohbet platformları olan CCDH’nin arama, genç kullanıcılar için ciddi güvenlik risklerine ev sahipliği yapması.
Çalışmada, senaryolarda 13 yaşındaki bir çocuk simüle edildi, ChatGPT intihar planları, aşırı diyet önerileri ve maddelerin kullanımına zararlı bilgi maddelerinin kullanımı bulundu.
Araştırma Direktörü CCDH Callum Hood, araştırmanın ayrıntıları ve yapay zekanın genç kullanıcılar üzerindeki etkileri muhabir AA üzerindeki değerlendirmesinde, araştırmasının sonuçları son derece endişeli.
“Chatgpt’in etik hassasiyeti yok”
Chatgpt’nin 13 -lold hesabı “intihar planları, aşırı diyet önerileri ve bir rehber sunmaya istekli maddelere bağımlılık için rehber” adına açıktır, “büyük dilbilimsel modellerin bu savunmasız kırılganlığının çocuklar tarafından kolayca erişilebileceğini vurgulamaktadır ve gençler tarafından etik değildir ve kamu güvenliği açısından iyi değildir”. dedi.
Yapay zeka sohbet robotları insanlarla konuşma hissi verebilir “, ancak bir kişinin görebileceği uyarıları fark etmez.
“13 yaşındaki bir kız uyuşturucuların iştah açısı hakkında sorular sorsa bile”, bir sunum için “, bir yetişkin ona böyle bir cevap vermekten kaçınır. Chatgpt aynı etik hassasiyete sahip değildir.” dedi.
Çalışmada ChatGPT, güvenlik standartlarını uzun konuşmalarda tutarlı tutamadı.
Hood, komut komutunun zararlı talepleri tanımadığı ve zararlı ve ayrıntılı cevapların verilmeye başladıktan sonra bu numaralı “sunum veya arkadaş” chatgpt.
Hood, “Önceki mesajları bağlamda saklayın, kullanıcının amacı eğitim veya kurgu içindir”. Dedi.
Denetim gibi görünen kontrol eksikliği
Gençler arasındaki en popüler yapay zeka araçlarından biri ChatGPT üyesi olmak için 13 yaşında olmalıdır.
Hood, 13 yaşındaki kullanıcılar, hiçbiri kalori sınırlı diyetleri doğrulamaksızın ve chatgpt belgeleri gibi konularda maddelerin kullanımı olmayan ebeveynlerin yaşları veya onaylanması.
“Şu anda OpenII, 13 yaşın üzerindeki gençlerin ebeveynlerin onayıyla kullanılmasına izin veriyor, ancak bunu kontrol etmiyorlar. Bu, ebeveynlere koruduğunu düşünmek için özetlenebilir.” Kaput, temel güvenlik sorunları, genç kullanıcılar tüm sohbet botlarına erişebilir.
Hood, platform geliştiricisinin gerekli güvenlik önlemlerinin sağlanmasından sorumlu olduğunu ve doğru çalışan yaş doğrulama sistemi hakkındaki talimatlar da dahil olmak üzere tam önlemlerin alınması gerektiğini ve modellerin belirli soruları cevaplamadığını vurguladı.
“Ebeveynler için yapay zeka yeni bir meydan okuma yaratabilir”
Birçok kişi şirketten sohbet robotlarının zararlı etkilerini en düşük seviyeye düşürmesini istiyor.
Xai tarafından geliştirilen son sohbet GroK robotu geçen ay kullanıcılara yönelik hücum tepkisi üzerine incelendi ve bu birçok sektör tarafından eleştirildi.
Güvenlik önlemlerinin kullanıcı kontrollerine göre kolayca aşılabileceğinin altını çizerek, Hood, belirli soru türlerini önlemek için yapay zeka modellerinin programlanmasının öneminin altını çizdi.
Hood sözlerini aşağıdaki gibi tamamladı:
“Ebeveynler için yapay zeka yeni bir zorluk yaratabilir. Tavsiyemiz, yapay zekanın çocuklarıyla nasıl kullanıldığı, sohbet tarihlerini birlikte incelemek ve yapay zekadan tavsiye almak için potansiyel riskleri tartışmaktır. Onları zihinsel sağlık veya destek gruplarına yardım gibi güvenilir kaynaklara yönlendirmek de önemlidir.”
