1150 Ünlü İsimden Yapay Zeka Çalışmalarını Durdurun Mektubu
Son bir yılda teknoloji ve internet dünyası yeni bir döneme girdi. Bir insanın ötesinde istediğiniz her şeye erişebilen chatbot’lar, yazdığınız metni ‘gerçekten’ hatta gerçekçi bir şekilde görselleştiren görsel araçlar… Sadece bir yıl içinde ortaya çıkan bu araçlarla. Birçok şubede süreç değişmeye başladı.
Yapay zekadaki bu hızlı ve kontrolsüz gelişme uzmanları ikiye böldü. Bazıları bu teknolojilerin geliştirilmesini desteklerken, diğerleri Riskler hakkında endişelenmeye başladı. Bu endişeler, AI geliştiricilerine gönderilen bir mektupta dile getirildi. mektuba Elon Musk ve Steve Wozniak gibi isimlerde imzaladı.
“Yapay zeka sistemlerinin gelişimini durdurun”
Endişeleri anlamak için mektubun tamamını okumaya değer:
Kapsamlı araştırmaların gösterdiği ve üst düzey yapay zeka laboratuvarlarının onayladığı gibi, insanlarla rekabet edecek zekaya sahip yapay zeka sistemleri toplum ve insanlık için büyük riskler oluşturabilir. Geniş çapta onaylanan Asilomar AI Unsurlarında ana hatlarıyla belirtildiği gibi, Gelişmiş AI, Dünya üzerindeki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda yapay zeka laboratuvarlarının kendilerini hiç kimsenin hatta kimsenin yapamayacağı daha güçlü dijital zihinler geliştirmek ve dağıtmak için sıradan bir yarışta kilitlenmiş görmelerine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor. yaratıcıları – anlayabilir, iddia edebilir veya güvenilir bir şekilde kontrol edebilir.
Çağdaş AI sistemleri artık genel görevlerde insanlarla rekabet edebiliyor[3] Ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve yalanla doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Eninde sonunda sayıca üstün olabilecek, zekâsı ile geride kalabilecek, modası geçebilecek ve bizi değiştirebilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz? Bu tür kararlar, seçilmemiş teknoloji yöneticilerine devredilmemelidir. Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu güven uygun bir biçimde gerekçelendirilmeli ve bir sistemin potansiyel etkilerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zeka hakkındaki son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız inceleme almak önemli olabilir ve en gelişmiş çabalar için, kullanılan bilgi işlemin büyüme oranını sınırlamayı kabul etmek önemli olabilir. yeni modeller oluşturmak için.” Katılıyoruz. O nokta bugün.
Bu nedenle, tüm AI laboratuvarlarını GPT-4’ten daha güçlü AI sistemleri için en az 6 aylık eğitim vermeye çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm önemli oyuncuları içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.
Yapay zeka laboratuvarları ve bağımsız uzmanlar, bu duraklamayı, bağımsız dış uzmanlar tarafından titizlikle denetlenen gelişmiş yapay zeka tasarımı ve geliştirmeye yönelik bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için kullanmalıdır. Bu protokoller, kendilerine bağlı sistemlerin makul şüphelerin ötesinde güvenilir olmasını sağlamalıdır. Bu, genel olarak AI geliştirmede bir duraklama anlamına gelmez, sadece tehlikeli yarıştan, ortaya çıkan yeteneklere sahip, daha büyük, öngörülemeyen kara kutu modellerine geri adım atmak anlamına gelir.
AI araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha gerçek, inanılır, yorumlanabilir, şeffaf, sağlam, uyumlu, sağlam ve sadık hale getirmeye tekrar odaklanmalıdır.
Buna paralel olarak, AI geliştiricileri, sağlam AI yönetişim sistemlerinin gelişimini önemli ölçüde hızlandırmak için politika yapıcılarla birlikte çalışmalıdır. Bunlar asgari olarak şunları içermelidir: Yapay zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son derece yetenekli AI sistemlerini ve büyük hesaplama yeteneği havuzlarını denetleme ve izleme; gerçek ile sentetik çıktıları birbirinden ayırmaya ve model çıktılarını izlemeye yardımcı olacak kaynak ve filigran sistemleri; sağlam bir kontrol ve sertifikasyon ekosistemi; yapay zekanın neden olduğu kayıplardan sorumluluk; teknik AI güvenlik araştırması için güçlü kamu finansmanı; AI’nın neden olacağı dramatik ekonomik ve politik aksaklıklarla (özellikle demokraside) başa çıkmak için yeterli kaynaklara sahip kurumlar.
İnsanlık, yapay zeka ile gelişen bir geleceğin tadını çıkarabilir. Güçlü yapay zeka sistemleri kurmayı başardıktan sonra artık ödülleri topladığımız, bu sistemleri herkesin bariz yararı için tasarladığımız ve toplumda yankı uyandırma şansı verdiğimiz bir “Yapay zeka yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı etkileri olan diğer teknolojilere yol verdi. Bunu burada yapabiliriz. Uzun bir yapay zeka yazının tadını çıkaralım, sonbahara hazırlıksız girmeyelim.
İmzacılar arasında büyük isimler yer alıyor:
O anın prestijiyle şubeden 1125 taraftar kazanan mektuba imza atan isimler arasında şunlar yer alıyor:
- Elon Musk (SpaceX, Tesla ve Twitter’ın CEO’su)
- Steve Wozniak (Apple’ın Kurucu Ortağı)
- Evan Sharp (Pinterest Kurucusu)
- Emad Mostaque (Stability AI CEO’su)
- Zachary Kenton (Google’da DeepMind Kıdemli Araştırmacısı)
Mektuba ve tüm destekçilere ulaşmak için bu bağlantıya tıklayabilirsiniz.
