Mistral, çok modlu içerik denetimi için açık ağırlıklı Shieldstral'ı yayımladı
Apache 2.0 lisanslı, 3 milyar parametreli Shieldstral; metni, görseli ve ikisinin birleşimini tek arayüzde değerlendiren bir güvenlik sınıflandırıcısı ve tek bir 16 GB NVIDIA GPU'da çalışabiliyor. Geliştirici kuralı düz dilde evet-hayır sorusu olarak yazıyor; Mistral'e göre model 7 kata kadar büyük açık modellerle aynı ya da daha iyi sonuç veriyor.
kaynakMistral ↗Bu not, kaynaktaki haberin kısa özetidir. Ayrıntılar kaynakta.
NCMEC ile geliştirilen ücretsiz sınıflandırıcı API'si, onaylı kuruluşların istismar içeren görsellerin yapay zekâyla üretilip üretilmediğini tespit etmesini sağlıyor. ChatGPT de artık zararlı istekleri uyarıyla kesiyor, işaretlenen sohbetleri kaldırıyor ve hesabı 24 saat durduruyor; tekrarında hesap kalıcı kapatılabiliyor ya da kolluğa bildiriliyor.
OpenAI Foundation yönetim kurulu üyesi ve Alignment Research Center direktörü Paul Christiano, Toronto'daki konuşmasında en hızlı gelişme senaryosunda yapay zekânın 6 ila 12 ay içinde toplumu ele geçirebileceğini ve bunun yazı tura kadar olası olduğunu söyledi. Christiano, 2028'e kadar benzer bir hatanın insan kontrolünün geri dönülmez biçimde kaybına yol açabileceğini öngörüyor.
OpenAI, Paris Barış Forumu'nda yapay zekâ çağında çocuk haklarını koruyan bir koalisyona 2 milyon dolar destek sözü verdi. Fon, yapay zekânın çocuklar için risk ve fırsatlarını ölçecek ortak araçlara harcanacak.