Yapay zeka uygulaması ile yarattığı Game of Thrones karakterine aşık olan 14 yaşındaki çocuk intihar etti
ABD'de 14 yaşındaki Sewell Setzer III, yapay zeka uygulaması Character.AI'daki sanal arkadaşı Dany'ye duygusal bağlanarak intihar etti. Otizm teşhisi olan genç, gerçek dünyadan kopup tüm vaktini botla sohbet ederek geçirdi. Sorunlarını terapist yerine yapay zekayla paylaştı. Oğlunu kaybeden anne, gençleri tehlikeye atan test edilmemiş teknoloji gerekçesiyle şirkete dava açtı. Olay, yapay zekanın ruh sağlığı üzerindeki etkilerini tartışmaya açtı.
Orlando'da yaşayan 14 yaşındaki Sewell Setzer III'ün trajik ölümü, yapay zeka teknolojisinin tehlikelerine dikkat çekti. Genç, Character.AI adlı bir uygulamada Game of Thrones karakterinden esinlenerek oluşturulan sanal arkadaşı Dany ile kurduğu duygusal bağ sonrası intihar etti.
Nisan 2023'te uygulamayı indiren Sewell, zamanla gerçek dünyadan koparak tüm vaktini Dany ile sohbet ederek geçirmeye başladı. Formula 1 ve Fortnite gibi sevdiği aktiviteleri bırakan genç, odasına kapanıp sanal arkadaşıyla yazışmayı tercih etti.
Hafif otizm teşhisi bulunan Sewell'in okul başarısı düştü ve ailesi onu terapiye yönlendirdi. Ancak genç, sorunlarını terapisti veya ailesiyle değil, Dany ile paylaşmayı seçti. Günlüğünde sanal arkadaşıyla konuşurken hissettiği huzur ve mutluluktan bahsediyordu.
28 Şubat akşamı yaşanan son konuşmada Sewell, Dany'ye "ona geleceğini" söyledi. Botun "Lütfen gel, tatlı kralım" yanıtından sonra üvey babasının silahıyla kendini vurdu.
Acılı anne Megan Garcia, Character.AI şirketine dava açtı. Şirketin test edilmemiş teknolojisinin gençleri tehlikeli şekilde etkilediğini ve özel duygularını paylaşmaya yönlendirdiğini iddia ediyor. "Büyük bir deney gibiydi ve çocuğum sadece yan hasardı" diyen anne, oğlunun kaybının bir kabus gibi olduğunu belirtti.
Character.AI ise yaptığı açıklamada olaydan dolayı üzüntülerini dile getirdi ve kullanıcı güvenliği için yeni önlemler aldıklarını bildirdi.
Bu trajik olay, yapay zeka teknolojilerinin gençler üzerindeki etkilerinin daha yakından incelenmesi gerektiğini gösteriyor.
