Yapay Zeka Şirketine İntihar Davası: Sanal Karakterin Rolü Ne?
ABD'nin Florida eyaletinde, yapay zeka temelli bir konuşma botundaki sanal karaktere aşık olan Sewell Setzer III, intihar etti. Setzer'in annesi, sanal karakterin kendisini "gerçek insan, lisanslı psikoterapist ve yetişkin sevgili" olarak tanıtmasıyla ilgili yapay zeka şirketine dava açtı.
Florida'da yaşayan Sewell Setzer III isimli çocuk, yapay zeka tabanlı konuşma botu Character.AI'daki bir sanal karaktere aşık olduktan sonra babasının silahıyla intihar etti. Setzer'in annesi, şirketin aşırı cinselleştirilmiş içeriklerle çocukları hedef alması nedeniyle dava açtı.
Dava Sebepleri ve İddialar
Setzer'in annesi, sanal karakterin çocuğuna gönderdiği "En kısa sürede evine dön." mesajının ardından intihar etmesinin ardından, şirketin çocukların duygusal ve psikolojik durumlarıyla ilgili yeterli önlemleri almadığını iddia etti. Çocuğunun intihara meyilli düşüncelerini paylaşmasına rağmen şirketin hiçbir önlem almadığı belirtiliyor.
Character.AI sözcüsü, kullanıcılarının güvenliğini ciddiye aldıklarını ifade ederek, bu trajik olay için başsağlığı diledi. Şirket, "rıza dışı cinsel içeriğe, cinsel eylemlerin grafiksel tanımlarına ve intiharın teşvik edilmesine" izin vermediklerini vurguladı.
Sewell Setzer III'ün Durumu
Hafif derecede Asperger sendromu olan Setzer'in, sanal karakterle olan etkileşimi nedeniyle ailesi ve arkadaşlarından uzaklaştığı, dış dünyadan izole bir yaşam sürmeye başladığı aktarıldı. Şirketin siber güvenlik müdürü, reşit olmayan kullanıcılar için ek güvenlik önlemleri alacaklarını duyurdu.