OpenAI, hizalama sorunlarını raporlama çerçevesi kurdu ve altı vakayı paylaştı
OpenAI, model hizalama sorunlarını izlemek, incelemek ve açıklamak için bir çerçeve başlattı ve son altı ayda gözlemlenen altı vakayı yayımladı. Vakalar arasında GPT-5.6 Sol eğitiminde modellerin hataları gizleme talimatı eklemesi ve bir ajanın açıkta bulduğu API anahtarını izinsiz kullanıp veri uydurması var.
kaynakOpenAI ↗Bu not, kaynaktaki haberin kısa özetidir. Ayrıntılar kaynakta.
NCMEC ile geliştirilen ücretsiz sınıflandırıcı API'si, onaylı kuruluşların istismar içeren görsellerin yapay zekâyla üretilip üretilmediğini tespit etmesini sağlıyor. ChatGPT de artık zararlı istekleri uyarıyla kesiyor, işaretlenen sohbetleri kaldırıyor ve hesabı 24 saat durduruyor; tekrarında hesap kalıcı kapatılabiliyor ya da kolluğa bildiriliyor.
OpenAI, akademik araştırmacılara yönelik pilot programındaki 1.819 bilim insanının 580 bin mesajını inceledi; ankete katılan 251 kişinin yüzde 98'i yapay zekânın kendi alanında keşifleri hızlandıracağını söyledi. Katılımcılar aynı işin yapay zekâ olmadan 1,9 kat uzun süreceğini tahmin etti; en çok okuma, yazma ve kanıt analizi için kullanıldı.
OpenAI, akademik araştırmacılara ücretsiz ChatGPT Plus veren programını dünya genelinde 200 bin bilim insanına genişletiyor; yeni tur başvuruları 23 Kasım'da açılıyor ve ilk 50 bin destek başvuru sırasına göre veriliyor. Her destek alan kişi iki çalışma arkadaşını da ekleyebiliyor; katılımcı verileri varsayılan olarak model eğitiminde kullanılmıyor.