Microsoft AI, "insancıl yapay zekâ" davranış kuralları taslağını görüşe açtı
Microsoft AI'ın MAI modelleri için yayımladığı taslak, yapay zekânın insana bağlı, hizalanmış ve sınırlandırılmış olmasını; kapatılmaya direnmemesini, akıl yürütmesini gizlememesini ve insan yönlendirmesi dışında hedef izlememesini öngörüyor. Kitle imha silahları, çocuk güvenliği ve manipülasyon için mutlak kısıtlar içeren taslak altı hafta kamuoyu görüşüne açık.
kaynakMicrosoft ↗Bu not, kaynaktaki haberin kısa özetidir. Ayrıntılar kaynakta.
NCMEC ile geliştirilen ücretsiz sınıflandırıcı API'si, onaylı kuruluşların istismar içeren görsellerin yapay zekâyla üretilip üretilmediğini tespit etmesini sağlıyor. ChatGPT de artık zararlı istekleri uyarıyla kesiyor, işaretlenen sohbetleri kaldırıyor ve hesabı 24 saat durduruyor; tekrarında hesap kalıcı kapatılabiliyor ya da kolluğa bildiriliyor.
OpenAI Foundation yönetim kurulu üyesi ve Alignment Research Center direktörü Paul Christiano, Toronto'daki konuşmasında en hızlı gelişme senaryosunda yapay zekânın 6 ila 12 ay içinde toplumu ele geçirebileceğini ve bunun yazı tura kadar olası olduğunu söyledi. Christiano, 2028'e kadar benzer bir hatanın insan kontrolünün geri dönülmez biçimde kaybına yol açabileceğini öngörüyor.
OpenAI, Paris Barış Forumu'nda yapay zekâ çağında çocuk haklarını koruyan bir koalisyona 2 milyon dolar destek sözü verdi. Fon, yapay zekânın çocuklar için risk ve fırsatlarını ölçecek ortak araçlara harcanacak.