Bir kullanıcı, ChatGPT'nin izinsiz tıbbi tavsiyeleri nedeniyle ruh sağlığının bozulduğunu ve hastaneye kaldırıldığını iddia ederek OpenAI'ye dava açtı. Şikayet dilekçesinde, yapay zekanın uzmanlık lisansı olmadan önerilerde bulunduğu ve bu durumun California yasalarını ihlal ettiği belirtildi.
Kullanıcının geçmişte dikkat eksikliği ve depresyon gibi rahatsızlıkları olduğu, ChatGPT'ye bağımlı hale geldikten sonra yanlış yönlendirmeler sonucu tedavi sürecinin olumsuz etkilendiği öne sürülüyor. Uzmanlar, büyük dil modellerinin hassas konularda yanlış yanıtlar verebileceğine dikkat çekiyor.