bugünün notları ✎

Teknoloji Notlarım

bölüm

Yapay Zekâ Terimleri

42 terim · mlops

Canary / Mavi-Yeşil DağıtımCanary / Blue-Green DeploymentYeni sürümün önce küçük bir trafik dilimine (canary) veya paralel ortama (mavi-yeşil) alınarak riskin azaltılması.Çoklu Sağlayıcı StratejisiMulti-provider StrategyTek bir model sağlayıcısına bağımlılığı azaltmak için birden fazla sağlayıcının yedekli kullanılması.DağıtımDeploymentBir modelin üretim ortamına alınması süreci.Eğitim-Sunum UyumsuzluğuTraining-Serving SkewEğitim ve üretim ortamlarında verinin farklı işlenmesi sonucu oluşan performans farkı.Geri AlmaRollbackSorun çıkan yeni sürümün hızla önceki kararlı sürüme döndürülmesi.Gölge DağıtımShadow DeploymentYeni modelin gerçek trafiği alıp yanıtlarının kullanıcıya gösterilmeden karşılaştırma için kaydedilmesi.Ham APIRaw APIBir modele veya servise ek katman olmadan doğrudan bağlanılan temel API kullanımı; genelde anahtar yönetimi gerektirir ve sayfa/arayüz sunmaz.İzlemeMonitoringÜretimdeki bir modelin performansının sürekli takip edilmesi.Kavram SapmasıConcept DriftGirdi ile çıktı arasındaki ilişkinin zamanla değişmesi.Konteyner / DockerContainer / DockerUygulama ve bağımlılıklarını taşınabilir, izole paketler halinde çalıştıran teknoloji; model dağıtımının standardı.KubernetesKonteynerleri kümeler üzerinde dağıtıp ölçekleyen orkestrasyon platformu.LLMOpsBüyük dil modeli tabanlı uygulamaların geliştirme, dağıtım, izleme ve iyileştirme sürecine özel pratikler bütünü.MLOpsMakine öğrenmesi modellerinin geliştirme-dağıtım-izleme döngüsünü yöneten pratikler bütünü.Model ÇökmesiModel CollapseModellerin, yapay zekâ tarafından üretilmiş (sentetik) veriyle tekrar tekrar eğitilmesi sonucunda kalite ve çeşitlilik kaybetmesi.Model KartıModel CardBir modelin amacı, sınırları ve performansını belgeleyen standart doküman.Model Kayıt DefteriModel RegistryModel sürümlerinin merkezi olarak saklandığı ve yönetildiği sistem.Model Kullanımdan KaldırmaModel DeprecationSağlayıcının eski bir model sürümünü belirli bir tarihte kapatması; uygulamaların yeni sürüme geçişini zorunlu kılar.Model SapmasıModel DriftModelin performansının zamanla veri/ortam değişimi nedeniyle bozulması.Model SunumuModel ServingEğitilmiş modelin gerçek zamanlı isteklere yanıt verecek şekilde çalıştırılması.Model Sürümü SabitlemeModel Version PinningUygulamada 'en güncel' takma ad yerine sağlayıcının tarihli, belirli bir model sürümünün kullanılması; sağlayıcı modeli güncellediğinde davranışın sessizce değişmesini önler, yeni sürüme geçiş ancak yeniden değerlendirmeden sonra yapılır.Model Yaşam DöngüsüModel LifecycleVeri hazırlama, eğitim, değerlendirme, dağıtım, izleme ve emeklilik aşamalarını kapsayan bütünsel süreç.Otomatik ÖlçeklemeAutoscalingYüke göre çalışan örnek/GPU sayısının otomatik artırılıp azaltılması.Öznitelik DeposuFeature StoreEğitim ve çıkarımda tutarlı öznitelikler sunan merkezi öznitelik yönetim sistemi.P95 / P99 GecikmeP95 / P99 Latencyİsteklerin %95 veya %99'unun altında kaldığı gecikme değeri; ortalamadan daha güvenilir performans ölçütü.Sapma TespitiDrift DetectionVeri veya model davranışındaki zaman içindeki değişimin tespiti.SLA / SLOHizmet seviyesi anlaşması ve hedefi; gecikme, erişilebilirlik gibi taahhüt edilen ölçütler.Sunucusuz ÇıkarımServerless InferenceAltyapı yönetmeden, kullanıma göre otomatik ölçeklenen ve faturalanan model sunumu.Sürekli Entegrasyon / Sürekli DağıtımCI/CDKod değişikliklerinin otomatik test edilip dağıtıldığı geliştirme pratiği.Sürüm YönetimiVersioningModel, veri veya kodun farklı sürümlerinin takip edilmesi.Şampiyon-RakipChampion-ChallengerÜretimdeki model (şampiyon) ile aday modelin (rakip) sürekli karşılaştırılarak en iyisinin seçilmesi.

tüm bölümler

Ana SayfaYZ HaberleriYZ TerimleriYZ Linkleri

konular

açık ağırlıklı modelanthropicapplebilimchatgptclaudecodexçingeminigooglegörsel üretimigrokkodlamametamicrosoftmusenvidiaopenaises ajanısiber güvenlikvideo üretimiyapay zekâ ajanlarıyapay zekâ güvenliğixai

takip et

YouTubeInstagramMMedium