Future of Life Institute’un yayımladığı yeni Yapay Zekâ Güvenlik Endeksi, Anthropic, OpenAI, xAI ve Meta gibi büyük şirketlerin güvenlik uygulamalarının “küresel standartların çok altında” kaldığını ortaya koydu. Bağımsız uzmanlar tarafından yapılan değerlendirme, şirketlerin süper zekâ geliştirme yarışına odaklanırken bu sistemleri kontrol etmeye yönelik sağlam bir stratejiye sahip olmadığını belirtiyor.
Toplumda, insan zekâsını aşabilecek sistemlerin yaratabileceği etkiler konusunda artan endişeler, intihar ve kendine zarar verme vakalarının bazı sohbet botlarıyla ilişkilendirilmesinin ardından daha da güçlenmiş durumda. Future of Life Başkanı ve MIT Profesörü Max Tegmark, “ABD’de yapay zekâ şirketleri hâlâ restoranlardan daha az düzenlemeye tabi ve bağlayıcı güvenlik standartlarına karşı lobi yapmayı sürdürüyor,” dedi.
Yapay zekâ yarışı ise hız kesmiyor. Büyük teknoloji şirketleri, makine öğrenimi altyapılarını büyütmek ve modellerini geliştirmek için yüz milyarlarca dolar ayırmaya devam ediyor. 2014’te kurulan ve Elon Musk’ın da erken dönem destekçileri arasında yer aldığı Future of Life Institute, gelişmiş yapay zekânın insanlık için oluşturabileceği risklere dikkat çeken bir sivil toplum kuruluşu olarak öne çıkıyor.
Ekim ayında Geoffrey Hinton ve Yoshua Bengio’nun da aralarında bulunduğu bir bilim insanı grubu, kamuoyu talep edene ve bilim güvenli bir yol sunana kadar süper zekâ geliştirilmesinin durdurulması çağrısı yapmıştı.
Google DeepMind, modeller daha karmaşık hale geldikçe “güvenlik ve yönetişim yeniliklerinin” sürece paralel olarak devam edeceğini açıkladı. xAI ise otomatik bir yanıta benzeyen “Legacy media lies” ifadesini paylaştı. Anthropic, OpenAI, Meta, Z.ai, DeepSeek ve Alibaba Cloud, çalışma hakkındaki yorum taleplerine yanıt vermedi.
