bugünün notları ✎

Teknoloji Notlarım

bölüm

Yapay Zekâ Terimleri

30 terim · yapay zekâ donanımı

Apple Neural EngineApple çiplerindeki, cihaz üzerinde yapay zekâ çıkarımı için özel NPU.ASIC / FPGABelirli bir iş yükü için özel üretilen çip (ASIC) ve yeniden programlanabilir çip (FPGA); TPU bir ASIC örneğidir.Bellek Bant GenişliğiMemory BandwidthBellekten işlemciye saniyede aktarılabilen veri miktarı; LLM çıkarım hızını çoğunlukla bu sınırlar.Cihaz Üzerinde ÇıkarımOn-device InferenceModel çıkarımının bulut yerine doğrudan kullanıcı cihazında yapılması.CUDANVIDIA GPU'larında genel amaçlı paralel programlama platformu; yapay zekâ yazılım ekosisteminin fiili standardı.ÇipletChipletTek parça büyük bir yonga yerine, birbirine bağlanan daha küçük yonga parçalarından oluşturulan işlemci tasarımı; yapay zekâ hızlandırıcılarında ölçek ve maliyet avantajı sağlar.Enerji Tüketimi ve SoğutmaPower Consumption & CoolingYapay zekâ veri merkezlerinin yüksek elektrik ihtiyacı ve sıvı soğutma gibi ısı yönetimi çözümleri.Gömülü Yapay ZekâEmbedded AIYapay zekânın küçük, gömülü sistemler içine entegre edilmesi.GPU KümesiGPU ClusterBinlerce GPU'nun yüksek hızlı ağla bağlanarak tek bir eğitim işi için birlikte çalıştığı yapı.GPU NesilleriGPU Generations (A100, H100, Blackwell, Rubin)NVIDIA veri merkezi GPU'larının ardışık nesilleri: Ampere (A100), Hopper (H100/H200), Blackwell (B200/B300) ve 2026'da piyasaya çıkan HBM4 bellekli Vera Rubin; her nesil bellek, bant genişliği ve düşük hassasiyetli hesaplama gücünü artırır.Grafik İşlem BirimiGPU (Graphics Processing Unit)Paralel hesaplamada güçlü, yapay zekâ eğitiminde yaygın kullanılan işlemci.Hesaplama Gücü / GPU-SaatCompute / GPU-hoursEğitim veya çıkarım için harcanan toplam işlem kaynağının ölçüsü; model maliyetinin temel birimi.Hesaplama-Sınırlı vs Bellek-SınırlıCompute-bound vs Memory-boundBir iş yükünün darboğazının işlem gücü mü yoksa bellek aktarımı mı olduğunu belirten ayrım.LPU (Groq)LPU (Language Processing Unit)Groq'un LLM çıkarımı için tasarladığı, harici HBM yerine yonga üzerindeki SRAM'e dayanan çok düşük gecikmeli işlemci; NVIDIA Aralık 2025'te yaklaşık 20 milyar dolarlık lisans anlaşmasıyla teknolojiyi ve kurucu ekibi bünyesine kattı, GroqCloud hizmeti sürüyor.Merkezi İşlem BirimiCPU (Central Processing Unit)Genel amaçlı hesaplama yapan ana işlemci.Nöromorfik ÇipNeuromorphic ChipBeynin nöron ve sinaps yapısını donanımda taklit eden, düşük güçlü deneysel işlemci.NVLink / InfiniBandGPU'lar arası ve sunucular arası yüksek hızlı bağlantı teknolojileri; dağıtık eğitimin omurgası.Saniyedeki Kayan Nokta İşlemiFLOPS (Floating Point Operations Per Second)Bir donanımın hesaplama hızını ölçen birim.Sayı FormatlarıFP32 / FP16 / BF16 / FP8 / FP4 / INT8 / INT4Ağırlık ve hesaplamalarda kullanılan sayısal hassasiyet düzeyleri; düşük hassasiyet bellek ve hız kazandırır. Blackwell nesliyle donanım desteği gelen FP4 formatları (MXFP4, NVFP4) artık büyük modellerin eğitim ve sunumunda kullanılıyor.Sinir İşlem BirimiNPU (Neural Processing Unit)Yapay zekâ çıkarımı için optimize edilmiş, genelde cihaz içi özel işlemci.Tensör ÇekirdekleriTensor CoresNVIDIA GPU'larında matris çarpımını hızlandıran özel donanım birimleri.Tensör İşlem BirimiTPU (Tensor Processing Unit)Google tarafından geliştirilen, Gemini gibi modelleri eğitmek ve sunmak için kullanılan özel yapay zekâ çipi.TOPSTOPS (Tera Operations Per Second)Genelde NPU'ların tam sayı çıkarım performansını ifade eden birim.Trainium / InferentiaAWS Trainium / InferentiaAmazon'un özel yapay zekâ çipleri; Inferentia çıkarım için tasarlandı, Trainium başta eğitim için çıktı ama Trainium2 ve Trainium3 nesilleriyle artık Bedrock'taki çıkarım yükünün çoğunu da taşıyor (ör. Anthropic'in Project Rainier kümesi).Uç Yapay ZekâEdge AIYapay zekâ modellerinin buluta değil, yerel cihazda çalıştırılması.Veri Merkezi / Yapay Zekâ FabrikasıData Center / AI FactoryYapay zekâ eğitimi ve çıkarımına adanmış büyük ölçekli hesaplama tesisi.Video BelleğiVRAM (Video RAM)GPU üzerindeki, model ve veriyi tutan yüksek hızlı bellek.Yapay Zekâ PCAI PCNPU içeren ve yerel yapay zekâ özelliklerini (Copilot+ PC vb.) cihaz üzerinde çalıştıran kişisel bilgisayar.Yüksek Bant Genişlikli BellekHBM (High Bandwidth Memory)Veri merkezi GPU'larında kullanılan, çok yüksek veri aktarım hızına sahip yığılmış bellek türü.Wafer Ölçekli ÇipWafer-Scale Engine (Cerebras)Tüm silikon plakayı tek bir dev çip olarak kullanan Cerebras mimarisi.

tüm bölümler

Ana SayfaYZ HaberleriYZ TerimleriYZ Linkleri

konular

açık ağırlıklı modelanthropicapplebilimchatgptclaudecodexçingeminigooglegörsel üretimigrokkodlamametamicrosoftmusenvidiaopenaises ajanısiber güvenlikvideo üretimiyapay zekâ ajanlarıyapay zekâ güvenliğixai

takip et

YouTubeInstagramMMedium