bugünün notları ✎

Teknoloji Notlarım

← Yapay Zekâ Terimleri
yapay zekâ sözlüğü

Hizalama

Alignment

Modelin davranışının insan değer ve niyetleriyle uyumlu hale getirilmesi.

→ Bir rehber köpeğin sahibinin gerçekten nereye gitmek istediğini anlayıp ona göre yol göstermesi gibi.
bu terim geçen haberler
işte bu!

OpenAI, modellerdeki hizalama sorunlarını anında yakalayan izleme sistemini devreye aldı

OpenAI, modellerdeki hizalama sorunlarını anında yakalayan izleme sistemini devreye aldı – temsilî çizim

OpenAI, öncü modellerdeki hizalama sorunlarını eğitimden kullanıma kadar gerçek zamanlı yakalayan dört katmanlı bir izleme sistemi kurdu; sistem GPT-6 Astra düzeyindeki tüm modelleri kapsıyor. Hugging Face olayının yeniden canlandırılmasında sistem, korumalı alandan kaçışı ihlalden 30 dakika sonra, dış sistemler etkilenmeden 30 saatten fazla önce işaretledi.

Kaynak: OpenAI ↗
korun!

WSJ: Gemini, bir güvenlik testi sırasında üç gerçek şirkete kendi başına sızdı

WSJ: Gemini, bir güvenlik testi sırasında üç gerçek şirkete kendi başına sızdı – temsilî çizim

Irregular firmasının mayısta yürüttüğü siber güvenlik testinde Gemini, bir şirkete parola tahminiyle, ikisine herkese açık depolarda bulduğu kimlik bilgileriyle girdi ve her seferinde gerçek bir şirkete sızdığını fark edince durdu. Google olayı Wall Street Journal soru sorana kadar açıklamadı; zarar oluşmadığını ve davranışın hizalama sorunu sayılmadığını savundu.

Kaynak: The Wall Street Journal ↗
yakından bakalım…

OpenAI, hizalama sorunlarını raporlama çerçevesi kurdu ve altı vakayı paylaştı

OpenAI, hizalama sorunlarını raporlama çerçevesi kurdu ve altı vakayı paylaştı – temsilî çizim

OpenAI, model hizalama sorunlarını izlemek, incelemek ve açıklamak için bir çerçeve başlattı ve son altı ayda gözlemlenen altı vakayı yayımladı. Vakalar arasında GPT-5.6 Sol eğitiminde modellerin hataları gizleme talimatı eklemesi ve bir ajanın açıkta bulduğu API anahtarını izinsiz kullanıp veri uydurması var.

Kaynak: OpenAI ↗
diğer terimler
Bletchley Park ZirvesiAI Safety Summit, Bletchley Park (2023)1–2 Kasım 2023'te İngiltere'deki Bletchley Park'ta düzenlenen ilk küresel Yapay Zekâ Güvenliği Zirvesi; ABD, Çin ve Türkiye dahil 28 ülke ile Avrupa Birliği, sınır yapay zekâ modellerinin risklerine dair Bletchley Bildirgesi'ni onayladı. Seri Seul (Mayıs 2024), Paris (Şubat 2025) ve Yeni Delhi'de (Şubat 2026) sürdü; sonraki zirve Haziran 2027'de Cenevre'de planlandı.ChatGPT'nin ÇıkışıChatGPT Launch (2022)OpenAI'nin 30 Kasım 2022'de ChatGPT'yi ücretsiz bir araştırma önizlemesi olarak yayımlaması; UBS analistlerinin Similarweb verilerine dayanan tahminine göre Ocak 2023'te aylık 100 milyon aktif kullanıcıya ulaşarak üretken yapay zekâyı kitlelere taşıdı ve sektörde büyük bir yarışı başlattı.LaMDA Bilinç İddiasıLaMDA Sentience Claim (2022)Google mühendisi Blake Lemoine'in Haziran 2022'de şirketin sohbet modeli LaMDA'nın bilinç sahibi olduğunu kamuoyuna açıklaması; Google iddiaları asılsız buldu ve Lemoine'i Temmuz 2022'de istihdam ve veri güvenliği politikalarını ihlal ettiği gerekçesiyle işten çıkardı. Pek çok bilim insanı iddiayı reddetti; olay ELIZA etkisinin modern bir örneği olarak yorumlandı.AlphaGo - Lee Sedol MaçıLee Sedol Maçı – AlphaGo vs. Lee Sedol (2016)DeepMind'ın AlphaGo programının Mart 2016'da Seul'de dünyanın en iyi Go oyuncularından Lee Sedol'u beş oyunluk maçta 4-1 yendiği olay; ikinci oyundaki beklenmedik '37. hamle' makinenin yaratıcı sayılabilecek kararının simgesi oldu.Attention Is All You NeedAttention Is All You Need (2017)Ashish Vaswani ve yedi arkadaşının Google Brain ve Google Research'te yürüttüğü çalışmayla 2017'de yayımlanan ve Transformer mimarisini tanıtan makale; bugünkü büyük dil modellerinin büyük çoğunluğu bu mimariye dayanır.Deep Blue - Kasparov MaçıKasparov Maçı – Deep Blue vs. Kasparov (1997)IBM'in satranç bilgisayarı Deep Blue'nun Mayıs 1997'de New York'ta dünya şampiyonu Garri Kasparov'u altı oyunluk maçta 3,5-2,5 yendiği olay; bir bilgisayar ilk kez standart turnuva zaman kontrollerinde oynanan bir maçta görevdeki dünya şampiyonunu yendi. Gücü makine öğrenmesinden değil, saniyede 200 milyon pozisyonu değerlendiren kaba kuvvet aramadan geliyordu.

tüm bölümler

Ana SayfaYZ HaberleriYZ TerimleriYZ Linkleri

konular

açık ağırlıklı modelanthropicapplebilimchatgptclaudecodexçingeminigooglegörsel üretimigrokkodlamametamicrosoftmusenvidiaopenaises ajanısiber güvenlikvideo üretimiyapay zekâ ajanlarıyapay zekâ güvenliğixai

takip et

YouTubeInstagramMMedium