Yapay Zekâ Yalan Söyler mi?

Yapay zekâ son yıllarda hayatımızın birçok alanında karşımıza çıkıyor: sohbet robotları, öneri sistemleri, içerik üreticileri ve daha niceleri. Bu yaygınlık doğal olarak bazı soruları da beraberinde getiriyor: "Yapay zekâ güvenilir mi?", "Beni kandırabilir mi?" ya da en çok merak edileni: "Yapay zekâ yalan söyler mi?"

Cevap hem basit hem de biraz karmaşık. Teknik olarak yapay zekânın yalan söylemesi mümkün değil, çünkü onun bir bilinci, duygusu ya da kastı yok. Yani insan gibi "bile bile yanlış söyleyeyim" niyeti taşımaz. Yapay zekâ, yalnızca kendisine sunulan verilerden öğrenir , bu verileri analiz eder ve en uygun cevabı üretmeye çalışır. Ancak bazen bu cevaplar yanlış ya da eksik olabilir. Bu durum da çoğu zaman yalanla karıştırılır.

Neden Yanlış Bilgi Verebilir?

Yapay zekânın eğitildiği kaynaklar güncel değilse ya da hatalı bilgiler içeriyorsa, o da haliyle bu yanlışları tekrar eder. 

Bazı durumlarda ise yapay zekâ, duyduklarına benzeyen ama gerçekte var olmayan bilgiler üretebilir. Buna "halüsinasyon" denir. Bu da kullanıcıda uydurma ya da yalan izlenimi oluşturur. Örneğin, hiç yazılmamış bir kitap ya da yaşanmamış bir olaydan söz edebilir. Bu da bazen bilerek yalan söylüyormuş gibi bir algı oluşturabilir. Özellikle sohbet robotları, cevap verirken “en muhtemel” kelime  ve cümleleri seçtiği için gerçeğe benzer ama yanlış ifadeler kullanabilir. Daha da önemlisi, yapay zekâ sistemleri kötü niyetli kişiler tarafından manipüle edilebilir. Yani bir sistem yalan söylemek üzere programlanabilir. 

Bu noktada sorumluluk yine yapay zekâda değil, onu kullanan insanlardadır. Yapay zekânın yanlış bilgi verme ihtimaline karşılık sorgulamak ve kontrol etmek gerekir.