AI ile içerik üretirken nerede duruyorum?

Bu sitenin logosu aylarca sahteydi.

public/brand/ klasöründe dört dosya duruyordu ve adları doğruydu: mark.svg, favicon.svg, iki tane de karanlık ve aydınlık logo. İçlerini açınca çıkan şey Arial fontuyla yazılmış bir <text>e</text> ve yanına konmuş bir daireydi. Gerçek logo, 1254×1254'lük emirhan.ai-logo.png, aynı klasörde hep oradaydı.

Kimse ona bakmadı. Taklit sekme ikonunda, sayfa başlığında ve altbilgide durdu.

Bu yazı o olaydan çıkan kural üzerine. Kural şu değil: "AI kullanma." Şu: doğrulanamayan bir çıktıyı kabul etme.

Üretmek değil, türetmek

Marka işareti artık AI ile çizilmiyor. Kaynağın kendi piksellerinden türetiliyor. Betik PNG'yi okuyor, "e" harfinin sınırlarını buluyor, noktanın merkezini ve yarıçapını ölçüyor.

Ölçtüğü şeyler tahmin değil: nokta merkezi (570,4 · 401,6), yarıçap 74,8, ve bunun gerçekten bir daire olduğu ayrıca doğrulanıyor — alan tabanlı yarıçap ile en büyük yarıçap arasındaki sapma 0,38 piksel. Daire olduğu kanıtlandığı için SVG'ye <circle> olarak yazılıyor. Bir daireyi bezier eğrisine çevirmek bilgi kaybıdır.

En önemli kısım sonda: betik ürettiği SVG'yi kendisi rasterize edip kaynak maskeyle piksel piksel karşılaştırıyor. Yani "doğru çizdim" demiyor, doğru çizdiğini ölçüyor.

Aynı kural portre için de geçerli. Üç kadraj gerçek stüdyo çekiminden türetildi: kırpma ve Lanczos yeniden boyutlandırma, yüz geometrisine dokunulmadan. AI ile üretilmiş bir yüz kanonik kimlik verisine girmiyor.

Sınır "AI mı değil mi" değil

Dört sahte dosyanın sorunu AI ile üretilmiş olmaları değildi. Sorun, kimsenin kontrol etmemesiydi. Doğru klasörde, doğru isimle duran bir dosya doğru sanılıyor.

Bu yüzden benim sınırım araca göre değil, kontrol edilebilirliğe göre çiziliyor. Bir çıktının doğruluğu ölçülebiliyorsa devrediyorum. Ölçülemiyorsa devretmiyorum, çünkü o durumda elimde kalan tek şey çıktının kendine güveni oluyor — ve makine yanılırken de aynı tonda konuşuyor.

Bir gecede beş yanlış ölçüm

Bu soyut değil. 6 Eylül gecesi bu depoda beş ayrı ölçüm yanlış çıktı ve beşi de yeniden ölçülerek yakalandı.

• "Vercel Analytics bağlı değil." Bağlıydı. Ağ isteklerinde "vercel" ve "insights" kelimeleri arandı; Vercel betiği reklam engelleyicilerden kaçmak için karıştırılmış bir adresten geliyor. Filtre onu hiç görmedi.
• "Analytics çerez yazmıyor, tarayıcıda ölçüldü." Ölçüm geçersizdi. Vercel'in betiği ilk satırında navigator.webdriver görürse hiçbir şey yapmadan dönüyor. Yani çalışmayan bir betiğin çerez yazmadığı ölçülmüştü. Bayrak kaldırılıp tekrarlandı, sonuç aynı çıktı — ama artık bir dayanağı var.
• "Dokuz boş sayfa site haritasında." Değildi. Depo o kapıyı bir gün önce kurmuş, boş gövdeli sayfaları hem haritadan çıkarıyor hem noindex basıyordu. Yanlış öncül, doğru muhakemeyle birleşince abartılı bir risk raporu üretti.
• "Harita 15 dakikada tazelendi." Tazelenmedi. O 15 dakikanın içinde depoya bir push gitti ve dağıtım önbelleği sıfırlıyor. Ölçülen şey pencere değil, deploy süresiydi. Dağıtımsız tekrarlandığında sayı 100 dakikanın ötesine çıktı.
• "hreflang etiketi yok." Vardı. Arama küçük harf hreflang arıyordu, Next hrefLang yazıyor.

Beşinde de kod doğruydu, ölçen araç yanlıştı. Ve hiçbirini sezgi yakalamadı — hepsi ikinci bir ölçümle çıktı.

Bunun daha pahalı hâli

Bu depoda aynı sınıftan iki olay daha var ve ikisi de daha pahalıya mal oldu.

Bir göç dosyası elle uygulanmayı bekliyordu ve unutuldu. O kolonu okuyan her sorgu patladı, okuma katmanı tohum verisine düştü ve site 24 saat boyunca veritabanındaki 23 gerçek kaydı değil tohumu gösterdi. Derleme geçti, tip denetimi geçti, dört ayrı tarayıcı denetimi geçti — çünkü boş liste "hata" değil "sonuç yok" olarak çiziliyordu.

Başka bir gün paralel bir oturum sunucu ayaktayken derleme çalıştırdı. CSS dosyası yeni bir adrese taşındı, ayakta duran sunucu artık var olmayan eskisini istemeye devam etti ve sayfalar CSS'siz çizildi. Denetim aracı 110 "küçük dokunma hedefi", 4 taşma ve 132 konsol hatası bildirdi. Hiçbiri gerçek değildi. Kod tarafında tek satır bozuk değildi.

İkinci olay bana en çok şunu öğretti: araç yalan söylemedi. Gördüğünü doğru raporladı. Sadece baktığı şey site değildi.

Devrettiklerim ve devretmediklerim

Devrediyorum: ölçüm betikleri, tekrarlayan dönüşümler, tarayıcı denetimleri, taslak metin, kaynak taraması.

Devretmiyorum: kanonik kimlik varlıkları (logo, portre), veritabanı göçlerinin uygulanması, ve bir rakamın doğru olduğu iddiası. Göçler hâlâ elle çalıştırılıyor; otomasyon yazmak kolaydı ama yanlış giden bir göçün maliyeti, elle çalıştırmanın zahmetinden büyük.

Bir de yazılı bir kural var: bu depodaki yorumlar niyet değil ölçüm taşıyor. Bir kararın yanında neden öyle olduğu ve hangi ölçümün onu gerektirdiği yazıyor, tarihiyle. "Şöyle daha temiz olur" bir gerekçe değil.

Bu yazı nasıl yazıldı

Bu yazıyı AI ile yazdım ve bunu söylemeden yayınlamak, konusu tam olarak bu olan bir metin için tuhaf olurdu.

İşleyiş şöyleydi. Olaylar uydurulmadı; hepsi bu deponun dokümanlarında ve git geçmişinde duruyor, tarihleriyle. Rakamlar kaynağından okundu. Yukarıdaki beş yanlış ölçümün her biri o gece gerçekten oldu ve her biri düzeltilerek commit'lendi.

Yapmadığım şey de var: bir keşif sahnesi yazmadım. Dört sahte dosyayı nasıl fark ettiğimi anlatan güzel bir paragraf yazılabilirdi ve tamamen uydurma olurdu. Onun yerine dosyaların içinde ne olduğunu yazdım — çünkü o kontrol edilebilir.

Sınırın kendisi buydu zaten. Devredilebilen şey ölçülebilen şeydi.

Bilmediğim şey

Bu ayrımın nereye kadar taşıdığını bilmiyorum. "Ölçülebiliyorsa devret" kuralı kod ve görsel için işe yarıyor, çünkü ikisinde de bir doğruluk testi yazılabiliyor. Bir metnin iyi olup olmadığı böyle ölçülmüyor. Yukarıdaki paragrafların doğruluğunu kontrol edebildim; ilginç olup olmadıklarını kontrol edemedim.

Bir de şu açık: bu kural bana disiplin gibi geliyor ama bir alışkanlık da olabilir. Yeterince kez yanıldıktan sonra insan her şeyi iki kez ölçüyor, ve iki kez ölçmenin bedelini henüz hesaplamadım.