Yapay zekâda kritik eksik: Sistemler doğru ile yanlışı ayırt edemiyor
İki fizikçinin yürüttüğü bilimsel çalışma, yapay zekâ sistemlerinin doğru ile yanlışı ya da iyi ile kötüyü mantıksal olarak ayırt edemediğini ortaya koydu. Büyük teknoloji şirketlerinin bu durumu gizlemeye çalıştığı belirtiliyor.
Ekonomim'in haberine göre, yeni bir bilimsel araştırma, yapay zekâ modellerinin ahlaki ya da mantıksal değerlendirme kapasitesinden yoksun olduğunu ortaya koydu. İki fizikçinin yaptığı incelemeler, bu sistemlerin 'iyi' ile 'kötü' arasındaki ayrımı kavrayamadığını, yalnızca kendilerine yüklenen büyük veri kümelerindeki istatistiksel olasılıkları esas alarak cevap ürettiğini gösterdi. Bu tablo, yapay zekânın bilinçli bir karar alma mekanizmasına sahip olduğu yönündeki yaygın inancı geçersiz kılıyor.
Bilim insanları, teknoloji devlerinin yapay zekânın insani değerleri kavrayabildiği algısını pazarlama stratejisi olarak kullandığını ifade etti. Ancak ulaşılan sonuçlar, şirketlerin saklamaya çalıştığı temel açığı net şekilde gözler önüne seriyor: Yapay zekâ araçları, içeriklerin doğruluğunu ya da etik yönünü anlamadan yalnızca önceden belirlenmiş veri kalıplarını eşleştiriyor.
İyiyi kötüden ayıramayan bu algoritmik yapı, hatalı veya yanıltıcı bilgilerin denetimsiz biçimde yayılması tehlikesini de beraberinde getiriyor. Yapay zekâ sistemlerinin mantıksal bir filtre kullanmaması, yanlı veya zararlı içeriklerin 'doğru' olarak sunulmasına neden olabiliyor. Uzmanlar, teknoloji şirketlerinin bu algoritmik zafiyeti gidermek yerine gizlemeye çalışmasının gelecekte daha ciddi güvenlik ve etik sorunlarına yol açabileceği konusunda uyarıyor.
Haberin devamı için: Ekonomim
TurkAta Haber Ajansı AI Editör