Son zamanlarda süper akıllı yapay zeka (AI) ve bunun insanlığa yol açabileceği riskler konusu etrafında pek çok konuşma yapılıyor. İçeriden gelen yapay zekanın insanlığı yok edeceğine dair uyarıları görmeden, internette dolaşıp yapay zeka tarafından oluşturulan sonsuz içeriği geçmek zordur.
En son tur heyecanlandırmak Gerçekten süper akıllı yapay zekanın mevcut büyük dil modelleri (LLM’ler) turundan çıkması pek mümkün görünmüyor. Yine de, süper zeka Bu, akademisyenler tarafından yıllar boyunca kapsamlı bir şekilde araştırılan bir konudur ve kolaylıkla bizim yok edicimiz haline gelebilecek bir şey yapmak isteyenler için pek çok uyarıyı hazırda bulundurmaktadırlar.
Konuyla ilgili bir makale, diğer önemli çalışmaları arasında konuyla ilgili etkili makaleyi de içeren filozof Nick Bostrom’dan geliyor. simülasyon argümanı. Bostrom’un çalışmaları aynı zamanda İnsanlığın Geleceği Enstitüsü’nde insanlığa yönelik risklere de odaklandı ve dikkatini yönelttiği risklerden biri de yapay zekanın oluşturduğu riskler.
Pek çok makale ve bilim kurgu çalışması, kendi hain hedefleri olan kötü niyetli yapay zekaların riskine odaklanmış olsa da, bir makalede Bostrom odaklı Görünüşte hayırsever bir hedef peşinde koşan ve bir insan tarafından seçilen yapay zekaların yarattığı tehlikeler hakkında biraz daha bilgi: Ataç üretmek.
Elbette, ofis ekipmanlarının peşinde koşarak insanlığın öldürülmesi doğru geliyor ama nasıl?
Şimdi çoğunuz başını sallayıp “evet, kırtasiyenin bizim sonumuz olması mantıklı” diyorsunuz, ama yine de tartışmaya devam edelim.
Başlangıç olarak yapay zekadan bahsetmiyoruz sohbet robotlarıama bizimkinden çok daha üstün, gelişmiş bir zeka.
Bostrom makalesinde şöyle yazıyor: “Süper zeka, bilimsel yaratıcılık, genel bilgelik ve sosyal beceriler de dahil olmak üzere pratik olarak her alanda en iyi insan beyninden çok daha üstün performans gösteren herhangi bir zekadır.”
“Bu tanım süper zekanın nasıl uygulandığını açık bırakıyor; dijital bilgisayar, ağ bağlantılı bilgisayarlar topluluğu, kültürlenmiş kortikal doku veya başka bir şey.”
Bu süper zekalarla, belirlediğiniz hedefler ve motivasyonlar konusunda inanılmaz derecede spesifik olmanız gerektiğini savunuyor. Bunu yapmazsanız, cılız insan zekanızın kontrolünden hızla çıkan bir durumla karşı karşıya kalabilirsiniz.
Bostrom örnek olarak ataçları seçti çünkü bunları yaratma hedefi oldukça zararsız görünüyor, ancak yine de bu hedefi belirleyen yapay zeka, onu belirleyen insandan çok daha akıllı olduğunda dramatik bir şekilde yanlış gidebilir.
Genel olarak ataç yapma hedefiyle yapay zeka, bu görevi “önce tüm Dünya’yı dönüştürerek ve ardından alanın bazı kısımlarını ataç üretim tesislerine dönüştürerek” gerçekleştirebilir.
Bostrom, “Yapay zeka, hiç insan olmasaydı çok daha iyi olacağının farkına varacak çünkü insanlar onu kapatmaya karar verebilir” dedi. 2014 yılında HuffPost. “Çünkü insanlar bunu yaparsa daha az ataç olur.”
“Ayrıca, insan vücudu ataç haline getirilebilecek çok sayıda atom içeriyor. Yapay zekanın hedeflediği gelecek, çok sayıda ataçın olduğu ancak insanın bulunmadığı bir gelecek olacak.”
Bu örnek elbette görünüşte zararsız hedeflerin bile nasıl ters gidebileceğini ve insanlığın bir süper zeka yaratmanın ilk aşamasında, çok geç olmadan ne kadar dikkatli olması gerektiğini göstermek için kullanılıyor.
“Daha incelikli bir şekilde, bu, bir süper zekanın, şu anda arzu edilir olarak değerlendirebileceğimiz, ancak aslında insanlığın gelişmesi için gerekli olan şeylerin geri dönülemez bir şekilde kaybolduğu sahte bir ütopya olduğu ortaya çıkan bir durumu fark etmesiyle sonuçlanabilir” diye ekledi.
“Bir süper zekadan ne beklediğimize dikkat etmeliyiz çünkü onu elde edebiliriz.”
Bu abartılı bir örnek olabilir, ancak mevcut yapay zekaların yaratıcıları gerçekten daha gelişmiş bir şey yaratmanın eşiğinde olduklarına inanıyorlarsa, o zaman belki de biraz incelemeye değer. Elbette ataç istiyoruz, ama sonuçta insanlığın ataç üreten bir derebeyinin kölesi olmasını gerektirecek kadar çok değil.
News
