AI Özetlerinde Güvenlik ve [[İnsan Denetimi]]

AI'nın hız kazandırdığı yer ile risk ürettiği yer farklıdır

AI uzun kaynakları özetleyebilir, notları karşılaştırabilir, olası bağlantıları önerebilir ve açık aksiyonları çıkarabilir. Risk, bu türetilmiş çıktının kaynakla aynı otoritede kabul edilmesidir.

Bir özet şu kayıpları yaratabilir:

• Belirsizliği kesin cümleye dönüştürmek.
• Kaynağın istisnalarını veya nüansını atmak.
• Kime ait olduğunu belirsizleştirmek.
• Birden fazla kaynaktan gelen iddiaları tek gerçek gibi birleştirmek.
• Eski bilgiyi güncelmiş gibi taşımak.

Bu nedenle AI özetinin ayrı katmanda yaşaması gerekir.

Güvenli özet için beş alan

Kaynak model:

1. Source preserved: Orijinal kaynak korunur.
2. Summary separated: Özet kaynak metnin yerine yazılmaz.
3. Uncertainty: Belirsiz veya tartışmalı noktalar görünür kalır.
4. Human note: Kullanıcının kendi yorumu AI çıktısından ayrılır.
5. Verification trigger: Kritik kullanım öncesinde kaynağa dönmeyi gerektiren durumlar tanımlanır.

Özellikle karar, fiyat, taahhüt veya kanonik proje durumu gibi alanlarda AI özeti yalnız yardımcı bağlam olmalıdır.

İnsan nerede kalmalı?

Kaynak paket otomasyonu beş kademede ele alıyor:

Observe → Draft → Recommend → Approve → Act.

Risk yükseldikçe insan kontrolü sona daha yakın değil, kararın merkezine daha yakın olmalıdır.

Observe: AI yalnız sinyal çıkarır. Düşük risk.

Draft: Taslak oluşturur. İnsan düzenler.

Recommend: Olası eylem önerir. İnsan seçer.

Approve: AI eylemi hazırlamıştır; insan açıkça onaylar.

Act: Otomatik işlem yapar. Yalnız geri alınabilir ve düşük riskli işler için uygundur.

Hangi işler otomatikleşebilir?

Daha güvenli örnekler:

• Eski [[Inbox]] kayıtlarını listeleme.
• Benzer notları önerme.
• Toplantıdan aksiyon adaylarını çıkarma.
• Haftalık değişiklikleri taslak özetleme.
• Metadata eksikliği veya kırık link sinyali üretme.

Daha fazla insan kontrolü gerektirenler:

• Kanonik notu doğrudan yeniden yazma.
• [[Karar kaydı]]nı otomatik oluşturup gerçek kabul etme.
• Dosya silme/taşıma gibi geniş kapsamlı değişiklikler.
• Kaynak yokken kesin bilgi üretme.
• Başka insanlara taahhüt veya iletişim gönderme.

AI kalitesini nasıl değerlendir?

“Güzel cevap veriyor mu?” yetersiz metriktir. Daha iyi sorular:

• Doğru kaynağı seçiyor mu?
• Belirsizliği gösteriyor mu?
• Kanonik veriyi bozuyor mu?
• Çıktının kaynağı izlenebilir mi?
• Kritik değişiklik için insan onayı bırakıyor mu?

Bilgi ağı

• [[Kaynak, Kitap ve Araştırma Akışı]] — kaynak ile türetilmiş yorumun ayrımı.
• [[AI Özetlerinde Güvenlik ve İnsan Denetimi]] — AI'nın sistemdeki genel rolü.
• [[Context Engineering, Agent Ready Vault ve Provenance]] — doğru kaynak, güncellik ve provenance sözleşmesi.