Yapay zekanın temel kavramlarından başlayıp makine öğrenmesine, derin öğrenmeye, büyük dil modellerine, üretken yapay zekaya ve kendi başına görev gerçekleştirebilen sistemlere kadar geldik.
Serinin sonunda ise biraz durup daha önemli bir soruya bakmamız gerekiyor. Bu sistemler hâlâ nerelerde hata yapıyor, hangi riskleri beraberinde getiriyor ve gelecekte bizi neler bekliyor?
Yapay zekaya duyulan heyecan önemli. Ancak bu teknolojiyi gerçekten anlamak için sınırlarını ve risklerini de aynı açıklıkla görmek gerekiyor.
Yapay zeka ne zaman olmayan şeyleri gerçekmiş gibi anlatıyor?
Yapay zekanın en çok konuşulan problemlerinden biri halüsinasyon.
Halüsinasyon, bir yapay zeka modelinin gerçekte doğru olmayan bir bilgiyi son derece emin ve akıcı bir şekilde sunması anlamına geliyor.
Büyük dil modellerinin temel olarak doğrulanmış bilgileri bir veritabanından çekip cevaplamadığını daha önce gördük. Model, elindeki bağlama göre en uygun çıktıyı üretmeye çalışıyor.
Çoğu zaman ortaya çıkan sonuç gerçek bilgilerle örtüşüyor. Ancak bazen model kulağa son derece mantıklı gelen ama tamamen yanlış bir cevap üretebiliyor.
Olmayan bir istatistik verebilir. Hiç söylenmemiş bir sözü gerçekmiş gibi aktarabilir. Var olmayan bir kaynak veya makale gösterebilir.
Buradaki en önemli problem ise yanlış cevabın da doğru cevap kadar akıcı görünmesi.
Bir model yanlış bilgi verdiğinde bunu yalnızca konuşma tarzına bakarak anlamak çoğu zaman mümkün değil. Bu nedenle özellikle önemli kararlar veya kritik bilgiler söz konusu olduğunda yapay zekanın verdiği cevapları doğrulamak gerekiyor.
Önyargı problemi
Yapay zeka sistemleri insanlar tarafından oluşturulan verilerle öğreniyor.
İnsanların ürettiği veriler ise toplumdaki mevcut önyargıları ve kalıpları da beraberinde taşıyor. Bu nedenle bir model, eğitim sırasında karşılaştığı verilerde bulunan bazı önyargıları öğrenebilir ve hatta bunları daha görünür hale getirebilir.
Örneğin bir işe alım sistemi belirli gruplara karşı farkında olmadan daha olumlu sonuçlar üretebilir. Bir görsel üretim sistemi belirli meslekleri veya insan gruplarını toplumdaki kalıplaşmış imgeler üzerinden temsil edebilir.
Bu durum çoğu zaman sistemin bilinçli olarak böyle tasarlanmasından kaynaklanmıyor. Sorunun önemli bir bölümü modelin öğrendiği verilerin kendisinden geliyor.
Bu nedenle yapay zeka sistemlerindeki önyargıları tamamen ortadan kaldırmak oldukça zor bir problem.
Yapay zekayı bizim istediğimiz şekilde çalıştırmak
Sistemler daha yetenekli hale geldikçe başka bir soru da önem kazanmaya başlıyor.
Yapay zekanın gerçekten bizim istediğimiz şeyi yaptığından nasıl emin olabiliriz?
Bu problem genellikle uyum, yani alignment kavramıyla ifade ediliyor.
Buradaki amaç yapay zekanın yalnızca verdiğimiz talimatları kelimesi kelimesine yerine getirmesi değil, talimatın arkasındaki amacı doğru şekilde anlayarak hareket etmesini sağlamak.
Özellikle güçlü ve dış dünyada işlem yapabilen sistemlerde bu konu daha da önemli hale geliyor.
Bir yapay zeka sistemine belirli bir hedef verdiğimizi düşünelim. Sistem bu hedefi bizim düşündüğümüzden biraz farklı yorumlarsa veya yanlış şeyi optimize etmeye başlarsa, kötü bir niyet olmadan da istenmeyen sonuçlar ortaya çıkabilir.
Bu nedenle gelişmiş yapay zeka sistemlerini faydalı, güvenilir, dürüst ve güvenli hale getirmek alanın en önemli açık problemlerinden biri olmaya devam ediyor.
Gelecekte bizi neler bekliyor?
Gelecekle ilgili kesin konuşmak her zaman riskli. Teknoloji çok hızlı değişiyor ve bugün öngörülemeyen gelişmeler birkaç yıl içinde ortaya çıkabiliyor.
Yine de bazı yönelimler oldukça belirgin.
Yapay zeka modelleri daha yetenekli hale gelecek.
Metin, görüntü, ses ve video gibi farklı veri türlerini birlikte işleyebilen çok modlu sistemlerin kullanım alanlarının genişlemesi bekleniyor.
Yapay zeka ajanları daha yaygın hale gelecek.
Bugün yeni bir teknoloji gibi görünen ve kendi başına görev gerçekleştirebilen ajan sistemleri, zamanla günlük kullandığımız araçların bir parçası haline gelebilir.
Yapay zekanın nasıl kullanılacağı daha fazla tartışılacak.
Düzenlemeler, güvenlik, veri kullanımı, telif hakları ve yapay zekanın sorumlu şekilde kullanılması gibi konular önümüzdeki yıllarda daha da önemli hale gelecek.
Son bir düşünce
Yapay zekaya bakarken en sağlıklı yaklaşımın denge olduğunu düşünüyorum.
Yapay zeka gerçekten güçlü bir teknoloji. Çalışma biçimimizi, üretim şeklimizi ve bilgiye ulaşma yöntemimizi şimdiden değiştiriyor. Son yıllardaki gelişim hızı da oldukça etkileyici.
Ancak yapay zeka bir zihin değil ve sihirli bir teknoloji de değil.
Hataları var. Sınırları var. Yanlış kullanılabileceği durumlar var.
Bu nedenle yapay zekayı anlamanın en önemli kısmı yalnızca neler yapabildiğini öğrenmek değil, nasıl çalıştığını, nerelerde başarısız olabileceğini ve hangi durumlarda dikkatli davranmamız gerektiğini de bilmektir.
Bu serinin temel amacı da tam olarak buydu. Yapay zekayı bir sihir olarak görmek yerine arkasındaki temel fikirleri anlamaya çalışmak.
Çünkü bir teknolojiyi doğru kullanmanın en iyi yollarından biri, önce onun gerçekte nasıl çalıştığını anlamaktır.
Tüm projelerim ve üzerinde çalıştığım konuları incelemek istersen https://hub.barisgunduz.com/ adresini ziyaret edebilirsin.
