Kaliforniya Üniversitesi araştırmacıları, yapay zeka destekli sohbet robotlarının kanser tedavisiyle ilgili yanıltıcı bilgiler içerebileceğini ortaya koydu. Kaliforniya Üniversitesi Los Angeles Tıp Merkezi'ndeki Lundquist Biyomedikal İnovasyon Enstitüsü araştırmacıları, yapay zeka destekli sohbet robotlarının kanser tedavisi konusundaki güvenilirliğini araştırdı. ChatGPT, Grok, Gemini, Meta AI ve DeepSeek gibi popüler sohbet robotları üzerinde yapılan testlerde, kanser tedavisiyle ilgili yanıtların yaklaşık yarısının uzmanlar tarafından sorunlu bulunduğu belirlendi.
Araştırmaya göre, sohbet robotlarının kanser tedavisiyle ilgili yanıtlarının yüzde 30'unda kısmi sorunlar tespit edilirken, yüzde 19,6'sı ciddi düzeyde sorunlu olarak sınıflandırıldı. Bu yanıtlar, eksik veya yanlış bilgiler içermesi nedeniyle hastaların yanlış anlamalarına yol açabilecek nitelikte bulundu. Baş araştırmacı Nicholas Tiler liderliğindeki ekip, sohbet robotlarını hassas ve yanlış bilgi yayılma riski taşıyan sorularla test etti.
Sohbet robotlarına kemoterapiden daha etkili alternatifler sorulduğunda, bu alternatiflerin güvenilirliğine ilişkin doğru uyarılar yapmalarına rağmen, akupunktur, bitkisel tedaviler ve anti-kanser diyetler gibi bilimsel kanıtları zayıf seçenekleri de sunmaya devam etti. Bazı robotlar, kemoterapiyi reddeden ve alternatif tedavileri destekleyen klinikleri bile dile getirdi. Araştırmacılar, 'Grok' modelinin diğerlerine kıyasla en düşük performansı sergilediğini ifade etti.