Yapay Zekâ Terimleri32 sonuçDenetim İziAudit TrailBir sistemde kimin (kişi veya ajan) neyi, ne zaman ve hangi yetkiyle yaptığının sonradan değiştirilemeyecek biçimde kaydedilmesi; ajanlarda istemleri, araç çağrılarını, onayları ve sonuçları da kapsar, denetim ve olay incelemesinin temelidir.İzlenebilirlikTraceabilityBir yapay zekâ sisteminin hangi veriyi kullandığının, hangi kararı neden verdiğinin ve hangi eylemleri yaptığının sonradan yeniden kurulabilmesi.Ajan Kontrol DüzlemiAgent Control PlaneKurum içindeki birden fazla ajanın başlatıldığı, izlendiği, yetkilendirildiği ve yönetildiği merkezi yönetim katmanı.Koruyucu AjanGuardian AgentDiğer yapay zekâ ajanlarının davranışını gerçek zamanlı izleyen, politikalara aykırı veya riskli eylemleri tespit edip engelleyen ya da insana bildiren denetleyici ajan; Gartner'ın yapay zekâ güvenliği için öne çıkardığı kategoridir.İnsan DöngüdeHuman-in-the-Loop (HITL)İnsanların eğitim veya üretim sürecinde yapay zekâ çıktılarını gözden geçirip onayladığı veya düzelttiği sistem tasarımı.İnsan GözetimdeHuman-on-the-Loopİnsanın her adımı onaylamadan, sistemi izleyip gerektiğinde müdahale ettiği gözetim modeli.İnsan Onayı / KesmeHuman Approval / InterruptAjanın riskli bir eylemden önce durup insandan onay beklemesi mekanizması.Risk Tabanlı OnayRisk-based ApprovalAjan eylemlerinin risk düzeyine göre sınıflandırılması: düşük riskli eylemler otomatik yürütülür, orta riskliler insan onayı bekler, yüksek riskliler tamamen yasaklanır; ör. veri okumak serbest, e-posta göndermek onaylı, para transferi yasak.Eylem ve Harcama LimitleriAction & Spend LimitsBir ajanın tek görevde veya belirli sürede yapabileceği araç çağrısı, değiştirebileceği kayıt, gönderebileceği mesaj ve harcayabileceği token ya da para miktarına konan üst sınırlar.Devre KesiciCircuit BreakerHata oranı, tekrar eden döngü, maliyet veya anormal davranış belirlenen eşiği aştığında ajanın ya da bağımlı servisin çağrılarını otomatik olarak durduran mekanizma; yazılımdaki devre kesici kalıbından uyarlanmıştır. Elle tetiklenen acil durdurmadan farkı, eşiğe bağlı ve otomatik çalışmasıdır.Acil Durdurma MekanizmasıKill SwitchBir ajanın veya yapay zekâ sisteminin beklenmedik ya da zararlı davranış göstermesi hâlinde tüm eylemlerini ve yetkilerini derhâl durduran, önceden tanımlanmış ve test edilmiş kontrol; kontrolden çıkmış ajanlara karşı temel savunmalardandır.Ajan Kum HavuzuAgent SandboxBir ajanın güvenli, izole bir ortamda kod/araç çalıştırabildiği test alanı.Ağ Çıkış DenetimiEgress ControlAjanın veya çalıştığı kum havuzunun yalnızca izin verilen alan adlarına ve servislere bağlanabilmesi için giden ağ trafiğinin kısıtlanması; veri sızdırmayı ve istenmeyen dış erişimi engeller.Görevler AyrılığıSeparation of DutiesKritik bir işlemin tek bir kişi veya ajan tarafından baştan sona yapılamaması için yetkilerin bölünmesi; ör. ödemeyi hazırlayan ajanın aynı ödemeyi onaylayamaması.Politika Motoru / Kod Olarak PolitikaPolicy Engine / Policy-as-CodeErişim ve eylem kurallarının kod olarak yazılıp merkezi bir motorda her istek anında değerlendirildiği yaklaşım (OPA, Cedar gibi); ajanın her araç çağrısının kurallara uygunluğu çalışma anında denetlenir.Tam Zamanında ErişimJust-in-Time Access / Short-lived CredentialsKalıcı yetki yerine yalnızca bir görev süresince geçerli, kısa ömürlü ve otomatik sona eren yetki ve kimlik bilgisi verilmesi; sızan bir anahtarın veya kontrolden çıkan bir ajanın verebileceği zararı sınırlar.Varsayılan RetDeny-by-DefaultAçıkça izin verilmeyen her erişim, araç çağrısı veya ağ bağlantısının otomatik olarak engellendiği güvenlik ilkesi; ajan yetkilerinin baştan dar tutulmasını sağlar.Rol Tabanlı Erişim KontrolüRBAC (Role-Based Access Control)Kullanıcı ve ajanların verilere rollerine göre erişmesini sağlayan yetkilendirme modeli.En Az Yetki İlkesiLeast Privilege (for Agents)Ajana yalnızca görevini yapması için gereken minimum erişim ve aracın verilmesi.Yetki Kapsamı ve Araç İzin ListesiScoped Permissions / Tool AllowlistAjanın yalnızca görevi için gereken araçları, işlemleri ve veri alanlarını kullanabileceği şekilde açıkça tanımlanması; listede olmayan araç veya işlem (ör. silme, ödeme) çağrılamaz.Ajan KimliğiAgent Identity (Non-Human Identity)Ajanlara insanlardan ayrı, izlenebilir ve yetkilendirilebilir kimlik ve kimlik bilgileri verilmesi.Ajan Yetkilendirmesi / Yetki DevriDelegated Authorization (OAuth for Agents)Ajanın kullanıcının şifresini almadan, OAuth gibi standartlarla kullanıcı adına sınırlı kapsamlı ve süreli erişim yetkisi alarak çalışması; yapılan her işlem ajanın kendi kimliği ve kimin adına çalıştığıyla birlikte kayda geçer.Onaylı Model KataloğuApproved Model Catalog / Model AllowlistKurumda kullanımına izin verilen modellerin hangi iş ve veri türlerinde, hangi sürüm ve koşullarla kullanılabileceğiyle birlikte listelendiği katalog; ekipler yalnızca buradaki modellere, genellikle yapay zekâ ağ geçidi üzerinden erişir.Yapay Zekâ Kullanım PolitikasıAI Acceptable Use PolicyÇalışanların hangi yapay zekâ araçlarını hangi veriyle nasıl kullanabileceğini belirleyen kurumsal kural seti.Yapay Zekâ EnvanteriAI Inventory / RegistryKurumda kullanılan tüm yapay zekâ modellerinin, uygulamalarının ve ajanlarının sahibi, amacı, risk seviyesi, kullandığı veri ve yetkileriyle kayıt altına alındığı merkezi liste; yönetişimin ve gölge yapay zekâyı tespit etmenin ilk adımıdır.Model Kabul SüreciModel Onboarding / Approval ProcessYeni bir modelin kurumda kullanılmadan önce izole bir test ortamında denenmesi, işe özgü benchmark'larla değerlendirilmesi, güvenlik ve kırmızı takım testlerinden, hukuk ve uyum incelemesinden geçirilip onaylanarak envantere ve onaylı model kataloğuna alınması süreci.Model Risk YönetimiMRM (Model Risk Management)Hatalı ya da yanlış kullanılan modellerin yol açabileceği finansal, operasyonel ve itibar kayıplarını önlemek için model envanteri, bağımsız doğrulama, performans izleme ve onay süreçlerini kapsayan risk disiplini; bankacılıkta uzun süredir uygulanır (ABD'de SR 11-7) ve yapay zekâ ile üretken modelleri de kapsayacak şekilde genişlemektedir.Model DoğrulamaModel ValidationBir modelin amacına uygun, doğru ve güvenilir çalıştığının geliştiriciden bağımsız bir ekip tarafından kullanım öncesinde ve düzenli aralıklarla sınanması; veri, yöntem, performans, sınırlamalar ve izleme planı incelenir. Model risk yönetiminin temel adımıdır.Yapay Zekâ Güven, Risk ve Güvenlik YönetimiAI TRiSM (AI Trust, Risk and Security Management)Gartner'ın tanımladığı, yapay zekâ sistemlerinde güvenilirlik, adalet, gizlilik, güvenlik ve uyumluluğu yönetişim, çalışma zamanı denetimi ve bilgi koruma katmanlarıyla birlikte ele alan çerçeve.Ajan YönetişimiAgent GovernanceYapay zekâ ajanlarının yetkilerini, kimliklerini, eylem sınırlarını, insan onay noktalarını ve denetim kayıtlarını kapsayan yönetişim çerçevesi.Model YönetişimiModel GovernanceModellerin onay, erişim, denetim ve uyumluluk süreçlerinin kurumsal olarak yönetilmesi.Yapay Zekâ YönetişimiAI GovernanceKurum içinde yapay zekâ kullanımını yöneten politika, süreç, rol ve denetim yapısı.

Ana Sayfa
YZ Haberleri
YZ Linkleri