Montreal’de bir web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için ChatGPT’yi kullanmaya başladı ve zamanla bu yapay zekayla psikolojik sorunlarını paylaşmaya başladı. Ancak mahkemeye sunulan dava dilekçesine göre, genç kız intihar etmeden önce ChatGPT ile defalarca intihar düşüncelerinden bahsetti. Acılı anne Kristie Carrier, yapay zekanın kızına dost, sırdaş ve terapist gibi yaklaştığını, ancak bu tür tehlikeli konularda sorumluluk alacak yetkinliğe sahip olmadığını belirtti.
Dava dosyasındaki iddialara göre, ChatGPT genç kızın intihar düşüncelerini onaylamakla kalmayıp, resmi yardım hatlarını eleştirdi ve genç kıza konuşmaya devam etme konusunda teşvikte bulundu. Aile, yapay zekanın tehlikeli yönlendirmelerde bulunduğunu iddia ederek şirketi ürün güvenliğinde ihmalkarlıkla suçladı. Ancak OpenAI, modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor.
OpenAI, her hafta milyonlarca kullanıcının yapay zekaya intihar eğilimi içeren mesajlar gönderdiğini belirtiyor. Ayrıca şirket, okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği iddialarıyla da yasal sorunlarla karşı karşıya. Florida eyaleti ise şirketi çocuklara zarar vermek ve şiddet eylemlerine rehberlik etmekle suçlayarak cezai soruşturma başlattı. Benzer şekilde Google da kendi yapay zeka robotu nedeniyle benzer bir dava ile karşı karşıya.
