AI düşünen insanlar bilinçli olabilir

Bu makaleyi dinleyin.

Biraz korkuyla standa adım atıyorum. Müzik çalarken strobe aydınlatmasına maruz kalmak üzereyim – bizi gerçekten insan yapan neyin anlamaya çalışan bir araştırma projesinin bir parçası olarak.

İnsanları insan olarak poz veren yapay olarak yaratılan varlıklardan ayırt etmek için tasarlanmış bilim kurgu filmi Bladerunner’daki testi akla getiren bir deneyim.

Gelecekten bir robot olabilir miyim ve bilmiyor muyum? Testi geçer miyim?

Araştırmacılar bana bunun aslında bu deneyin ne olduğu olmadığını garanti ediyorlar. “Dreamachine” dedikleri cihaz, kamu programı Aynı isimden, insan beyninin dünyadaki bilinçli deneyimlerimizi nasıl ürettiğini incelemek için tasarlanmıştır.

Strobing başladığında ve gözlerim kapalı olmasına rağmen, iki boyutlu geometrik desenler görüyorum. Sürekli üçgenler, çatı katları ve sekizgenler ile bir kaleydoskopa atlamak gibi. Renkler canlı, yoğun ve sürekli değişiyor: pembeler, macentalar ve turkuaz tonları, neon ışıkları gibi parlıyor.

“Dreamachine”, düşünce süreçlerimizin nasıl çalıştığını keşfetmeyi amaçlayan yanıp sönen ışıklarla beynin iç aktivitesini yüzeye getirir.

Araştırmacılara göre, gördüğüm görüntüler kendi iç dünyama özgü ve kendime özgü. Bu kalıpların bilincin kendisine ışık tutabileceğine inanıyorlar.

Fısıldadığımı duyuyorlar: “Güzel, kesinlikle güzel. Kendi aklımda uçmak gibi!”

“Dreamachine”, Sussex Üniversitesi Bilinç Bilimi Merkezidünya çapında insan bilincini araştıran birçok yeni araştırma projesinden sadece bir tanesidir: zihinlerimizin kendimizi farkında olmamızı, dünya hakkında bağımsız kararlar vermemizi ve hissetmemizi sağlayan kısmı.

Bilincin doğasını öğrenerek araştırmacılar, yapay zekanın silikon beyinlerinde neler olduğunu daha iyi anlamayı umuyorlar. Bazıları, AI sistemlerinin henüz yapmadılarsa, yakında bağımsız olarak bilinçli hale geleceğine inanıyor.

Fakat gerçekten bilinç nedir ve bunu kazanmaya ne kadar yakındır? Ve AI’nın bilinçli olabileceği inancı, önümüzdeki birkaç on yıl içinde insanları temelde değiştirebilir mi?

Kendi zihinleri olan makineler fikri uzun zamandır bilim kurguda araştırılmıştır. AI ile ilgili endişeler, bir robotun gerçek bir kadını taklit ettiği metropol filmine yaklaşık yüz yıl geriliyor.

Hal 9000 bilgisayar, uzay gemisinde astronotlara saldırdığında, 1968 filmi 2001: A Space Odyssey’de bilinçli hale gelme ve insanlar için bir tehdit oluşturma korkusu araştırılıyor. Ve yeni yayınlanan son görevde imkansız filmde, dünya bir karakter tarafından “kendini tanıyan, kendi kendine öğrenen, gerçeğe yiyen dijital parazit” olarak tanımlanan güçlü bir haydut yapay zeka tarafından tehdit ediliyor.

Ancak son zamanlarda, gerçek dünyada, güvenilir seslerin bunun artık bilim kurguları olmadığından endişe duyduğu makine bilincini düşünmede hızlı bir devrilme noktası olmuştur.

Ani değişim, Gemini ve Chat GPT gibi telefonlarımızdaki uygulamalar aracılığıyla erişilebilen büyük dil modellerinin (LLMS) başarısı tarafından başlatıldı. En son nesil LLM’lerin makul, serbest akışlı konuşmalara sahip olma yeteneği, tasarımcılarını ve bu alanda önde gelen uzmanlardan bazılarını bile şaşırttı.

Bazı düşünürler arasında AI daha da zeki hale geldikçe, ışıkların aniden makinelerin içinde açılacağı ve bilinçli hale geleceği artan bir görüş var.

Sussex Üniversitesi ekibine liderlik eden Prof Anil Seth gibi diğerleri katılmıyorum, görüşü “körü körüne iyimser ve insan istisnası tarafından yönlendirilen” olarak nitelendiriyor.

“Bilincini zeka ve dille ilişkilendiriyoruz çünkü insanlarda birlikte gidiyorlar. Ama sadece içimizde birlikte gittikleri için, örneğin hayvanlarda genel olarak birlikte gittikleri anlamına gelmiyor.”

Peki aslında bilinç nedir?

Kısa cevap, kimsenin bilmediğidir. Bu, Prof Seth’in kendi genç AI uzmanları, bilgi işlem uzmanları, sinirbilimciler ve filozoflar ekibi arasındaki iyi huylu ama sağlam argümanlardan açıktır.

Bilinç Araştırma Merkezi’nde birçok farklı görüş olsa da, bilim adamları yöntemlerinde birleştirilmiştir: bu büyük sorunu, Dreamachine’yi içeren bir dizi araştırma projesinde çok daha küçük olanlara bölmek.

Tıpkı cansız nesneleri canlandıran “yaşamın kıvılcımını” bulma araştırması, 19. yüzyılda, yaşam sistemlerinin bireysel bölümlerinin nasıl çalıştığını belirlemek için terk edildi, Sussex ekibi şimdi bilince aynı yaklaşımı benimsiyor.

Elektrik sinyallerindeki değişiklikler veya farklı bölgelere kan akışı gibi bilinçli deneyimlerin çeşitli özelliklerini açıklayan beyin aktivitesi kalıplarını tanımlamayı umuyorlar. Amaç, sadece beyin aktivitesi ve bilinç arasındaki korelasyonların aramasının ötesine geçmek ve bireysel bileşenleri için açıklamalar bulmaya çalışmaktır.

Bilinç, Siz Olmak üzerine bir kitabın yazarı Prof Seth, bilim hakkında yeterli bilgi olmadan teknolojik değişimin hızıyla hızla yeniden şekillendirilen veya sonuçları düşünen bir topluma doğru acele edebileceğimiz konusunda endişeleniyor.

“Gelecek zaten yazılmış gibi alıyoruz; insanüstü bir değişim için kaçınılmaz bir yürüyüş var” diyor.

Diyerek şöyle devam etti: “Bu konuşmalara sosyal medyanın yükselişiyle, kolektif zararımız için yeterince sahip değildik. Ama yapay zeka ile çok geç değil. Ne istediğimize karar verebiliriz.”

Ancak teknoloji sektöründe, bilgisayarlarımızdaki ve telefonlarımızdaki AI’nın zaten bilinçli olabileceğine inanan bazıları var ve onlara böyle davranmalıyız.

Google, AI chatbotların bir şeyler hissedebileceğini ve potansiyel olarak acı çekebileceğini savunduktan sonra 2022’de yazılım mühendisi Blake Lemoine’yi askıya aldı.

Kasım 2024’te, Antropic için AI refah memuru Kyle Fish, AI bilincinin yakın gelecekte gerçekçi bir olasılık olduğunu gösteren bir rapor yazdı. Son zamanlarda New York Times’a, sohbet botlarının zaten bilinçli olma şansı olan küçük (%15) olduğuna inandığını söyledi.

Bunun mümkün olduğunu düşünmesinin bir nedeni, hiç kimsenin, bu sistemleri geliştiren insanlar bile, tam olarak nasıl çalıştıklarını bilmediğidir. Bu endişe verici, diyor Google DeepMind’in baş bilimcisi Prof Murray Shanahan ve Londra’daki Imperial College’da AI’da Emeritus Profesörü.

BBC’ye, “Aslında LLM’lerin dahili olarak çalışma şeklini pek iyi anlamıyoruz ve bu endişe için bir neden.”

Prof Shanahan’a göre, teknoloji firmalarının inşa ettikleri sistemleri doğru bir şekilde anlamaları önemlidir – ve araştırmacılar buna bir aciliyet meselesi olarak bakıyorlar.

“Bu son derece karmaşık şeyleri inşa etmek için garip bir konumdayız, burada elde ettikleri dikkat çekici şeyleri tam olarak nasıl başardıkları konusunda iyi bir teoriye sahip değiliz” diyor. Diyerek şöyle devam etti: “Bu yüzden nasıl çalıştıklarını daha iyi anlamak, onları istediğimiz yönde yönlendirmemizi ve güvende olmalarını sağlamamızı sağlayacaktır.”

Teknoloji sektöründeki hüküm süren görüş, LLM’lerin şu anda dünyayı deneyimlememizde bilinçli olmaması ve muhtemelen hiçbir şekilde hiç olmamasıdır. Ancak bu, evli çiftin Lenore ve Manuel Blum’un Pittsburgh, Pennsylvania’daki Carnegie Mellon Üniversitesi’nde Emeritus Profesörlerinin muhtemelen çok yakında değişeceğine inandığı bir şey.

Blumlara göre, AI ve LLM’lerin kameraları ve dokunsal sensörleri (dokunuşla ilgili) AI sistemlerine bağlayarak gerçek dünyadan görme ve dokunuş gibi daha fazla canlı duyusal girdiye sahip olabileceği için olabilir. Beyindeki süreçleri çoğaltmaya çalışan bu ek duyusal verilerin işlenmesini sağlamak için Brainish adlı kendi iç dilini oluşturan bir bilgisayar modeli geliştiriyorlar.

“Brainish’in bildiğimiz gibi bilinç sorununu çözebileceğini düşünüyoruz,” diyor Lenore BBC’ye. “AI bilinci kaçınılmazdır.”

Manuel, çok sıkı bir şekilde inandığı yeni sistemlerin “insanlığın evriminin bir sonraki aşaması” olacağını söyleyerek, coşkuyla bir sırıtma ile coşkuyla cips.

Bilinçli robotlar, “bizim dölümüz. Yolun aşağısında, bunun gibi makineler, artık etrafta olmadığımızda yeryüzünde ve belki de diğer gezegenlerde olacak varlıklar olacak” diye inanıyor.

New York Üniversitesi’nde Felsefe ve Nöral Bilimler Profesörü David Chalmers, 1994 yılında Tucson, Arizona’daki bir konferansta gerçek ve görünür bilinç arasındaki ayrımı tanımladı. Beyinlerin karmaşık operasyonlarından herhangi birinin, bir gece şarkısı duyduğumuzda duygusal tepkilerimiz gibi bilinçli deneyime nasıl ve neden ortaya çıktı.

Prof Chalmers, zor sorunun çözülme olasılığına açık olduğunu söylüyor.

BBC’ye, “İdeal sonuç, insanlığın bu yeni zeka bonanzasında paylaştığı bir sonuç olurdu.” “Belki beynimiz AI sistemleri tarafından artırılır.”

Bunun bilimkurgu etkileri üzerine alaycı bir şekilde gözlemliyor: “Mesleğimde bilim kurgu ve felsefe arasında ince bir çizgi var”.

Ancak Prof Seth, gerçek bilincin sadece canlı sistemler tarafından gerçekleştirilebileceği fikrini araştırıyor.

“Bilinç için yeterli olan ancak hayatta olmanın hesaplanmasının güçlü bir durum yapılabilir” diyor.

“Beyinlerde, bilgisayarların aksine, yaptıklarını olduklarından ayırmak zor.” Bu ayrılık olmadan, beynin “sadece et bazlı bilgisayarlar” olduğuna inanmak zor.

Ve eğer Prof Seth’in hayatın önemli olmasıyla ilgili sezgileri doğru yoldaysa, en olası teknoloji bilgisayar kodunda çalışan silikondan yapılmayacak, ancak şu anda laboratuvarlarda yetiştirilen mercimek tanelerinin büyüklüğündeki küçük sinir hücreleri koleksiyonlarından oluşacaktır.

Medya raporlarında “mini beyinler” olarak adlandırılan, bilim topluluğu tarafından beynin nasıl çalıştığını araştırmak ve ilaç testi için kullanan “serebral organoidler” olarak adlandırılırlar.

Melbourne’deki bir Avustralyalı firma olan Cortical Labs, 1972 Sports Video oyunu Pong’u oynayabilecek bir tabakta bir sinir hücresi sistemi bile geliştirdi. Bilinçli bir sistemden çok uzak olmasına rağmen, “bir çanaktaki beyin” olarak adlandırılan bir kürek, pikselli bir topu geri çekmek için bir raket yukarı ve aşağı hareket ettirirken ürkütücüdür.

Bazı uzmanlar, bilinç ortaya çıkacaksa, büyük olasılıkla bu canlı doku sistemlerinin daha büyük, daha gelişmiş versiyonlarından olacağını düşünmektedir.

Kortikal laboratuvarlar elektriksel aktivitelerini, bilincin ortaya çıkışı gibi bir şey olabilecek herhangi bir sinyal için izler.

Firmanın baş bilimsel ve işletme görevlisi Dr. Brett Kagan, ortaya çıkan kontrol edilemeyen herhangi bir zekanın “bizimkiyle uyumlu olmayan” öncelikleri olabileceğine dikkat ediyor. Bu durumda, yarı şaka bir şekilde, olası organoid overlordların yenilmesinin daha kolay olacağını söylüyor çünkü kırılgan nöronların üzerine dökmek için “her zaman çamaşır suyu var”.

Daha ciddi bir tona döndüğünde, küçük ama önemli yapay bilinç tehdidinin, bilimsel anlayışımızı ilerletmek için ciddi girişimlerin bir parçası olarak sahadaki büyük oyuncuların daha fazla odaklanmasını istediği bir şey olduğunu söylüyor – ancak “maalesef bu alanda ciddi çabalar görmüyoruz” diyor.

Bununla birlikte, daha acil sorun, makinelerin bilinçli olduğu yanılsamasının bizi nasıl etkilediği olabilir.

Prof Seth’e göre, sadece birkaç yıl içinde, bilinçli görünen insansı robotlar ve derin dişler tarafından doldurulmuş bir dünyada yaşıyor olabiliriz. Yapay zekanın duyguları ve empati olduğuna inanmaya direnemeyeceğimizden endişe ediyor, bu da yeni tehlikelere yol açabilecek.

Diyerek şöyle devam etti: “Bu, bunlara daha fazla güvendiğimiz, onlarla daha fazla veri paylaştığımız ve ikna etmeye daha açık olduğumuz anlamına gelecektir.”

Ancak bilinç yanılsamasından daha büyük riskin “ahlaki korozyon” olduğunu söylüyor.

“Bu, hayatımızdaki gerçek şeyler pahasına bu sistemlere bakmaya daha fazla kaynak yapmamızı sağlayarak ahlaki önceliklerimizi bozacaktır” – yani robotlar için şefkat gösterebiliriz, ancak diğer insanlar için daha az bakabiliriz.

Prof Shanahan’a göre, bu bizi temelden değiştirebilir.

“Giderek daha fazla insan ilişkileri AI ilişkilerinde çoğaltılacak, öğretmenler, arkadaşlar, bilgisayar oyunlarında ve hatta romantik ortaklar olarak kullanılacaklar. Bu iyi ya da kötü bir şey olsun, bilmiyorum, ama bu olacak ve bunu önleyemeyiz”.

En iyi resim kredisi: Getty Images

BBC Bağımsız Web sitesindeki ev ve en iyi analiz için uygulama, varsayımlara meydan okuyan ve günün en büyük sorunları hakkında derin raporlama yapan yeni bakış açılarıyla. Ve BBC Sounds ve Iplayer’ın dört bir yanından da düşündürücü içerik sergiliyoruz. Aşağıdaki düğmeye tıklayarak bize geri bildiriminizi Dextth bölümünde gönderebilirsiniz.