Yapay Zekâ Araçlarına İki Kapıdan Girer — Hangisini Açtığını Bil

Geçen aylarda aynı işi dört ayrı platformda yapmaya çalıştım: bir yazıyı alıp yayımlamak. Dördü de "web sitesi" kategorisinde, dördü de aynı şeyi yapıyor gibi görünüyor. Sonuç dört farklı hikâye oldu.

Birine girmek beş dakika sürdü ve bir daha hiç sorun çıkarmadı. İkincisi çalıştı ama her arayüz güncellemesinde durdu. Üçüncüsü beni kapıda karşıladı ve içeri almadı. Dördüncüsü "buyur gel" dedi ama içeride para istedi.

Bu dört sonucun tek bir açıklaması var, ve bence yapay zekâyı işine katmak isteyen herkesin öğrenmesi gereken ilk şey bu.

Her aracın iki kapısı var

Bir yapay zekânın senin bir aracına — sitene, tablona, formuna — ulaşmasının yalnızca iki yolu var.

Ön kapı: Aracın kendisinin açtığı resmî geçit. Sen bir izin verirsin, o izinle içeri girilir. Otele gidince resepsiyondan aldığın oda kartı gibi. Sadece senin odanı açar, ne zaman kullanıldığı kayıtlıdır, istediğin an iptal edersin. Otel lobiyi yeniden dekore etse de kartın çalışmaya devam eder.

Arka kapı: Senin oturumunu ödünç vermek. Tarayıcında açık olan hesabı bir programa kullandırmak. Bu, birine kendi anahtarlığını vermeye benziyor. Her kapıyı açar. Kimin açtığı belli olmaz. Ve bina tadilata girdiğinde anahtar deliği yerini değiştirir, anahtar boşa döner.

Aradaki fark teknik bir ayrıntı değil. İşin sağlamlığını, güvenliğini ve sürdürülebilirliğini belirleyen şey tam olarak bu.

Dört platform, dört sonuç

Şimdi baştaki hikâyeye dönelim.

Birincisinin ön kapısı vardı. Kendi sitem. Bir uygulama parolası oluşturdum, yazıyı gönderdim, bitti. Aylar geçti, hiç bozulmadı. Sonra iki yüzden fazla eski yazıya toplu bir ekleme yapmam gerekti — aynı kapı, tek tur, hepsi tamam. Üstelik yazıların adresi ve tarihi korundu; okurun yer imi kırılmadı.

İkincisinin ön kapısı yoktu. Bültenim. Resmî bir geçit sunmuyor, ama tarayıcı oturumumla içeri girilebiliyor. Çalıştı. Fakat bir noktada platform editörünü değiştirdi ve sistem durdu. Haftalarca bir işlem yapamadım. Sonunda başka bir yol buldum — ama o yolu bulmak günler aldı, ve yarın tekrar kapanabilir.

Üçüncüsü hiç içeri almadı. Büyük bir yayın platformu. Ön kapısını yeni başvurulara kapatmış. Arka kapıyı da koruma altına almış: otomatik bir tarayıcıyla yaklaştığınızda sizi tanıyıp geri çeviriyor. Üç deneme yaptım, üçü de engellendi. Dördüncüyü denemedim — çünkü ısrar etmenin sonu hesabın askıya alınması olabilirdi ve kazanacağım şey o riske değmiyordu.

Dördüncüsü ikiye bölünmüştü. Bir metin analiz servisi. Bana "3000 kredi hediye" demişti. Ön kapıdan girdim, "krediniz yetersiz" dedi. Meğer hediye kredi yalnızca web arayüzünde geçerliymiş; resmî kapının kendi ayrı cüzdanı varmış. Aynı hesap, aynı kredi, iki ayrı kasa.

Peki bu sana ne söylüyor

Yapay zekâyı işine katmaya karar verdiğinde, ilk sorun "hangi yapay zekâyı kullansam" değil. İlk soru şu:

"Bu aracın ön kapısı var mı?"

Varsa, işin kolay. Kapsamı sınırlı bir izin verirsin, iş yapılır, ne olduğu kayıt altındadır, iptal etmek istediğinde tek tıkla iptal edersin.

Yoksa, üç seçeneğin var ve üçü de bedelli:

Arka kapıyı kullanırsın — kırılganlığı ve riski kabul ederek. İşi elle yapmaya devam edersin — zaman ödeyerek. Ya da o aracı bırakıp ön kapısı olan bir muadiline geçersin — alışkanlığını değiştirerek.

Üçü de meşru. Yanlış olan tek şey, hangisini seçtiğini bilmeden ilerlemek.

Arka kapının gerçek bedeli

Arka kapıyı kötülemiyorum; ben de kullandım, hâlâ kullanıyorum. Ama bedelini açıkça bilmek gerekiyor.

Yetki sınırsızdır. Ön kapıda "sadece yazı ekleyebilir" diyebilirsin. Arka kapıda böyle bir ayar yok. Oturumun neyi yapabiliyorsa, ona izin verdiğin program da onu yapabilir. Silme yetkin varsa onun da vardır.

Kırılgandır. Platform bir düğmenin yerini değiştirdiğinde sistem durur. Hata bile vermez çoğu zaman; sessizce hiçbir şey yapmaz. Bunu fark etmen günler sürebilir.

Kuralları ihlal edebilir. Çoğu platformun kullanım şartları otomatik erişimi kısıtlar. Kendi hesabında kendi içeriğini düzenlemek genelde sorun değil, ama sınır belirsizdir ve sınırı platform çizer, sen değil.

İz bırakmaz. Bir şey ters gittiğinde "bunu ben mi yaptım, program mı yaptı" sorusunun cevabı yoktur.

Somut bir karar anı

Yakın zamanda şöyle bir durumla karşılaştım. Bir eğitim platformunda dört bine yakın öğrencim var. Onlara yeni bir içerik serisinden haberdar olmalarını istiyordum.

Resmî kapıyı yokladım: duyuru gönderecek bir geçit yok. Sadece kurs listesi veriyor, öğrenci sayısını bile vermiyor.

Arka kapı açıktı. Teknik olarak yapılabilirdi.

Yapmadım.

Sebep şu: Kazanç küçüktü — birkaç yüz kişi belki içeriği görecekti. Kayıp ise telafisizdi — o platformda yıllarca emek verilmiş yirmi üç kurs var, hesap askıya alınırsa hepsi gider. Bu hesap tutmuyor.

Onun yerine metinleri hazırladım ve panelden elle gönderilecek şekilde bıraktım. Yirmi dakikalık bir iş. Otomasyonun kurtaracağı zaman, riske attığı şeyin yanında hiç kalıyor.

Otomasyonun ölçeği, hatanın da ölçeğidir. Bir hata bir kişiye giderse özür dilersin. Dört bin kişiye giderse itibar kaybedersin.

Başlamak isteyene

Elindeki işleri bir kâğıda üç sütun hâlinde yaz:

Ne kadar zaman alıyor. Ön kapısı var mı. Yanlış giderse ne kaybederim.

Sonra tek bir kural uygula: çok zaman alan, ön kapısı olan ve hatası ucuz olan işten başla.

Diğerleri bekleyebilir. Bazıları da hiç sırasını almaz — ve bu bir eksiklik değil, bir karar.

Son söz

Yapay zekâ senin yerine karar vermiyor. Senin kararını hızla uyguluyor. Hızlı uygulanan yanlış karar, yavaş uygulanan yanlış karardan daha pahalıdır.

Bu yüzden asıl soru "yapay zekâ ne yapabilir" değil.

"Ben neye izin verdim?"