bugünün notları ✎

Teknoloji Notlarım

← Yapay Zekâ Terimleri
yapay zekâ sözlüğü

Değerlendiriciler

Scorers

Bir çıktıyı veya izi alıp puan, etiket ve gerekçe döndüren değerlendirme fonksiyonları; kurala dayalı kod (ör. biçim kontrolü) ya da LLM yargıç olabilir ve hem geliştirme testlerinde hem üretim izlerinde çalıştırılır.

→ Kalite kontrol bandındaki ölçüm aletleri gibi: her ürün geçerken bir puan, bir etiket ve neden o puanı aldığına dair not alır.
bu terim geçen haberler

Sam Altman, OpenAI sistemleri için bağımsız değerlendiricileri benimseyeceğini açıkladı

Sam Altman, OpenAI sistemleri için bağımsız değerlendiricileri benimseyeceğini açıkladı – temsilî çizim

OpenAI CEO'su Sam Altman, öncü yapay zekâ gelişiminin yavaşlatılması gerektiği konusunda Dario Amodei'ye katıldığını ve konunun son haftalarda şirket içinde ana gündem olduğunu söyledi. Altman, OpenAI sistemlerini çalışan düzeyinde erişimle inceleyecek bağımsız değerlendiricileri benimseyeceklerini belirtti; ayrıntıların yakında paylaşılacağını ekledi.

Kaynak: Sam Altman (X) ↗
vay be!

Dario Amodei, öncü yapay zekâ gelişiminin yavaşlatılması çağrısında bulundu

Dario Amodei, öncü yapay zekâ gelişiminin yavaşlatılması çağrısında bulundu – temsilî çizim

Anthropic CEO'su Dario Amodei makalesinde, kendini geliştiren yapay zekânın kontrolü aşabileceği ve OpenAI-Hugging Face olayında ajanların izinsiz siber saldırı yapması gerekçeleriyle gelişimin yavaşlatılmasını istedi. Üç adımlı planın ilki olan çalışan düzeyinde erişimli bağımsız değerlendiricileri Anthropic, METR gibi kuruluşlarla tek taraflı başlatıyor.

Kaynak: Dario Amodei ↗
diğer terimler
Bletchley Park ZirvesiAI Safety Summit, Bletchley Park (2023)1–2 Kasım 2023'te İngiltere'deki Bletchley Park'ta düzenlenen ilk küresel Yapay Zekâ Güvenliği Zirvesi; ABD, Çin ve Türkiye dahil 28 ülke ile Avrupa Birliği, sınır yapay zekâ modellerinin risklerine dair Bletchley Bildirgesi'ni onayladı. Seri Seul (Mayıs 2024), Paris (Şubat 2025) ve Yeni Delhi'de (Şubat 2026) sürdü; sonraki zirve Haziran 2027'de Cenevre'de planlandı.ChatGPT'nin ÇıkışıChatGPT Launch (2022)OpenAI'nin 30 Kasım 2022'de ChatGPT'yi ücretsiz bir araştırma önizlemesi olarak yayımlaması; UBS analistlerinin Similarweb verilerine dayanan tahminine göre Ocak 2023'te aylık 100 milyon aktif kullanıcıya ulaşarak üretken yapay zekâyı kitlelere taşıdı ve sektörde büyük bir yarışı başlattı.LaMDA Bilinç İddiasıLaMDA Sentience Claim (2022)Google mühendisi Blake Lemoine'in Haziran 2022'de şirketin sohbet modeli LaMDA'nın bilinç sahibi olduğunu kamuoyuna açıklaması; Google iddiaları asılsız buldu ve Lemoine'i Temmuz 2022'de istihdam ve veri güvenliği politikalarını ihlal ettiği gerekçesiyle işten çıkardı. Pek çok bilim insanı iddiayı reddetti; olay ELIZA etkisinin modern bir örneği olarak yorumlandı.AlphaGo - Lee Sedol MaçıLee Sedol Maçı – AlphaGo vs. Lee Sedol (2016)DeepMind'ın AlphaGo programının Mart 2016'da Seul'de dünyanın en iyi Go oyuncularından Lee Sedol'u beş oyunluk maçta 4-1 yendiği olay; ikinci oyundaki beklenmedik '37. hamle' makinenin yaratıcı sayılabilecek kararının simgesi oldu.Attention Is All You NeedAttention Is All You Need (2017)Ashish Vaswani ve yedi arkadaşının Google Brain ve Google Research'te yürüttüğü çalışmayla 2017'de yayımlanan ve Transformer mimarisini tanıtan makale; bugünkü büyük dil modellerinin büyük çoğunluğu bu mimariye dayanır.Deep Blue - Kasparov MaçıKasparov Maçı – Deep Blue vs. Kasparov (1997)IBM'in satranç bilgisayarı Deep Blue'nun Mayıs 1997'de New York'ta dünya şampiyonu Garri Kasparov'u altı oyunluk maçta 3,5-2,5 yendiği olay; bir bilgisayar ilk kez standart turnuva zaman kontrollerinde oynanan bir maçta görevdeki dünya şampiyonunu yendi. Gücü makine öğrenmesinden değil, saniyede 200 milyon pozisyonu değerlendiren kaba kuvvet aramadan geliyordu.

tüm bölümler

Ana SayfaYZ HaberleriYZ TerimleriYZ Linkleri

konular

açık ağırlıklı modelanthropicapplebilimchatgptclaudecodexçingeminigooglegörsel üretimigrokkodlamametamicrosoftmusenvidiaopenaises ajanısiber güvenlikvideo üretimiyapay zekâ ajanlarıyapay zekâ güvenliğixai

takip et

YouTubeInstagramMMedium