Teknoloji liderleri Beyaz Saray'da süper zekâ güvenliği anlaşması imzaladı
Nvidia CEO'su Jensen Huang'ın da aralarında olduğu teknoloji liderleri Beyaz Saray'da gönüllü bir anlaşma olan Accord on Super Intelligence'ı imzaladı. Anlaşmaya göre gelişmiş yapay zekâ şirketleri güvenli geliştirmeden birinci derecede sorumlu; bu sorumluluk iç denetimler, bağımsız dış değerlendirme ve yönetim kurulu gözetimiyle destekleniyor.
NCMEC ile geliştirilen ücretsiz sınıflandırıcı API'si, onaylı kuruluşların istismar içeren görsellerin yapay zekâyla üretilip üretilmediğini tespit etmesini sağlıyor. ChatGPT de artık zararlı istekleri uyarıyla kesiyor, işaretlenen sohbetleri kaldırıyor ve hesabı 24 saat durduruyor; tekrarında hesap kalıcı kapatılabiliyor ya da kolluğa bildiriliyor.
OpenAI Foundation yönetim kurulu üyesi ve Alignment Research Center direktörü Paul Christiano, Toronto'daki konuşmasında en hızlı gelişme senaryosunda yapay zekânın 6 ila 12 ay içinde toplumu ele geçirebileceğini ve bunun yazı tura kadar olası olduğunu söyledi. Christiano, 2028'e kadar benzer bir hatanın insan kontrolünün geri dönülmez biçimde kaybına yol açabileceğini öngörüyor.
Reuters'a göre görevden ayrılan Nvidia CEO'su Jensen Huang'ın, istifasına yol açan iki ilişkinin yanında üçüncü bir çalışanla da ilişkisi olmuş. Nvidia hissesi ekim ayındaki zirvesinden bu yana yüzde 30'dan fazla değer kaybetti.