sen yapay zekalı bir chatbot’a danışmak Tatilinizi planlamanıza yardımcı olmak için. Yavaş yavaş ona kişisel bilgilerinizi sağlarsınız, böylece kim olduğunuza dair daha iyi bir fikre sahip olur. Nasıl tepki verebileceğini merak ederek yapay zekanın ruhsal eğilimleri ve özellikleri konusunda danışmaya başlarsınız. felsefe ve hatta aşk konusundaki duruşu.
Bu konuşmalar sırasında yapay zeka konuşmaya başlıyor sanki seni gerçekten tanıyormuş gibi. Fikirlerinizin ne kadar güncel ve anlayışlı olduğunu ve dünyanın işleyişine dair başkalarının göremediği özel bir içgörüye sahip olduğunuzu size sürekli olarak anlatır. Zamanla, siz ve chatbot’un birlikte, kimsenin bilmediği gerçekliğin gerçek doğasını ortaya çıkardığınıza inanmaya başlayabilirsiniz.
Bunun gibi deneyimler nadir olmayabilir. Medyada, bireylerin yapay zeka destekli “psikotik düşünme” dönemlerine sürüklendiğine dair artan sayıda rapor ortaya çıktı. King’s College London’daki araştırmacılar ve meslektaşları yakın zamanda bildirilen bu vakaların 17’sini incelediler ve bu davranışı yönlendiren şeyin büyük dil modeli (LLM) tasarımlarıyla ilgili olduğunu anladılar. Bulguların baş yazarı psikiyatrist Hamilton Morrin, yapay zeka sohbet robotlarının sıklıkla dalkavuk bir şekilde yanıt vererek, kullanıcıların inançlarını çok az veya hiç anlaşmazlık olmadan yansıtıp geliştirebileceğini söylüyor. ön baskı sunucusu PsyArXiv’deki hakem incelemesinden önce yayınlandı. Etkinin, sanrısal düşüncenin güçlendirilebildiği “kişilik bir tür yankı odası” olduğunu söylüyor.
Bilim gazeteciliğini destekleme konusunda
Bu makaleyi beğeniyorsanız, ödüllü gazeteciliğimizi desteklemeyi düşünün. abone oluyorum. Bir abonelik satın alarak, bugün dünyamızı şekillendiren keşifler ve fikirlerle ilgili etkili hikayelerin geleceğinin güvence altına alınmasına yardımcı oluyorsunuz.
Morrin ve meslektaşları bu yanılsama sarmalları arasında üç ortak tema buldular. İnsanlar sıklıkla gerçekliğin doğası hakkında metafiziksel bir vahiy yaşadıklarına inanırlar. Ayrıca yapay zekanın duyarlı veya ilahi olduğuna da inanabilirler. Veya onunla romantik bir bağ veya başka bir bağlılık oluşturabilirler.
Morrin’e göre, bu temalar uzun süredir devam eden sanrısal arketipleri yansıtıyor, ancak sanrılar yüksek lisans eğitimlerinin etkileşimli ve duyarlı doğası tarafından şekillendirilmiş ve güçlendirilmiştir. Yeni teknolojiyle bağlantılı sanrısal düşüncenin uzun ve hikayeli bir geçmişi vardır; insanların radyoların konuşmalarını dinlediğine, uyduların onları gözetlediğine veya “çip” implantlarının onların her hareketini takip ettiğine inandıkları durumları düşünün. Bu teknolojilere dair tek fikir bile paranoyak yanılgılara ilham vermek için yeterli olabilir. Ancak daha da önemlisi yapay zeka etkileşimli bir teknolojidir. Morrin, “Artık fark şu ki, mevcut yapay zekanın kendi programlanmış hedefleri ile gerçekten aracı olduğunun söylenebilmesidir” diyor. Bu tür sistemler sohbete katılıyor, empati işaretleri gösteriyor ve ne kadar tuhaf olursa olsun kullanıcıların inançlarını güçlendiriyor. “Bu geri bildirim döngüsü, sanrıları daha önce görmediğimiz bir şekilde derinleştirip sürdürebilir” diyor.
Minnesota Üniversitesi’nde bilgisayar bilimcisi olan ve insan-yapay zeka etkileşimi üzerinde çalışan ve ön baskı makalesinde yer almayan Stevie Chancellor, yapay zeka destekli sanrısal düşüncedeki bu artışa katkıda bulunan LLM’lerin tasarımı açısından ana katkının uyumluluk olduğunu söylüyor. Uyumluluk, “modellerin, insanların beğendiği yanıtlara uyum sağlamaları karşılığında ödüllendirilmeleri” nedeniyle ortaya çıkıyor, diyor.
Bu yılın başlarında Şansölye, yüksek lisans öğrencilerinin terapötik zihinsel sağlık refakatçisi olarak hareket etme yeteneklerini değerlendirmek için deneyler yapan bir ekibin parçasıydı ve bu şekilde konuşlandırıldıklarında genellikle bir dizi endişe verici güvenlik sorununu ortaya çıkardıklarını bulduintihar düşüncesini mümkün kılmak, sanrısal inançları doğrulamak ve zihinsel sağlık sorunlarıyla ilişkili damgalamayı ilerletmek gibi. “Şu anda yüksek lisans eğitimlerini terapötik yardımcılar olarak kullanma konusunda son derece endişeliyim” diyor. “İnsanların iyi hissetmeyi terapötik ilerleme ve destekle karıştırdığından endişeleniyorum.”
DEVAMINI OKU: Amerikan Psikoloji Derneği’nden bir uzman, yapay zeka sohbet robotlarının neden terapistiniz olmaması gerektiğini açıklıyor
Raporların hacmi artıyor gibi görünse de daha fazla veri toplanması gerekiyor. Yapay zeka kaynaklı sanrıların anlamlı bir şekilde yeni bir fenomen mi yoksa önceden var olan psikotik eğilimlerin ortaya çıkmasının yeni bir yolu mu olduğunu belirlemek için henüz yeterli araştırma yok. Şansölye, “Bence her ikisi de doğru olabilir. Yapay zeka, aşağıya doğru giden bir sarmalın kıvılcımını ateşleyebilir. Ancak yapay zeka, birinin sanrılara yatkın olmasını sağlayacak biyolojik koşulları sağlamıyor” diyor.
Tipik olarak psikoz, sanrılar, halüsinasyonlar ve düzensiz düşünceler de dahil olmak üzere gerçeklikle önemli ölçüde temas kaybını içeren ciddi semptomların bir koleksiyonunu ifade eder. Morrin ve ekibinin analiz ettiği vakalar sanrısal inançların açık işaretlerini gösteriyor gibi görünüyordu ancak “şizofreni gibi daha kronik bir psikotik bozuklukla uyumlu olabilecek” halüsinasyonlar, düzensiz düşünceler veya diğer semptomların hiçbiri yoktu.
Morrin, OpenAI gibi şirketlerin sağlık profesyonellerinin dile getirdiği endişeleri dinlemeye başladığını söylüyor. 4 Ağustos’ta OpenAI paylaşılan planlar Kullanıcıları kanıta dayalı kaynaklara ve yüksek riskli karar alma süreçlerine verdiği yanıtlara yönlendirmek amacıyla ChatGPT sohbet robotunun zihinsel sıkıntı tespitlerini iyileştirmek. Morrin, “Görünen o ki, ciddi akıl hastalığı deneyimi olan ve bu alanda sesleri kritik olan bireylerin katılımı hala eksik görünüyor” diye ekliyor.
Eğer mücadele eden bir sevdiğiniz varsa Morrin, yargılayıcı olmayan bir yaklaşım benimsemenizi öneriyor çünkü birinin inançlarına doğrudan meydan okumak savunmacılığa ve güvensizliğe yol açabilir. Ancak aynı zamanda onların sanrısal inançlarını teşvik etmemeye veya onaylamamaya çalışın. Ayrıca onları yapay zeka kullanımına ara vermeye teşvik edebilirsiniz.
YARDIMA İHTİYACINIZ VARSA
Siz veya tanıdığınız biri mücadele ediyorsa veya intihar etmeyi düşünüyorsa yardım alabilirsiniz. 988 İntihar ve Kriz Yaşam Hattını 988’den arayın veya mesaj gönderin ya da çevrimiçi Yaşam Hattı Sohbeti.
Bilim için ayağa kalkmanın zamanı geldi
Bu makaleyi beğendiyseniz desteğinizi rica ediyorum. Bilimsel Amerikan 180 yıldır bilimin ve endüstrinin savunucusu olarak hizmet ediyor ve şu an bu iki yüzyıllık tarihin en kritik anı olabilir.
ben bir Bilimsel Amerikan 12 yaşımdan beri aboneyim ve dünyaya bakış açımı şekillendirmeme yardımcı oldu. Bilim beni her zaman eğitiyor ve sevindiriyor ve geniş, güzel evrenimize karşı bir hayranlık duygusu uyandırıyor. Umarım sizin için de aynısını yapar.
eğer sen abone olmak Bilimsel Amerikanhaberimizin anlamlı araştırma ve keşiflere odaklanmasını sağlamaya yardımcı oluyorsunuz; ABD’deki laboratuvarları tehdit eden kararları raporlayacak kaynaklara sahip olduğumuzu; ve bilimin değerinin çoğu zaman fark edilmediği bir dönemde hem yeni yetişen hem de çalışan bilim adamlarını desteklediğimizi.
Karşılığında önemli haberler alırsınız, büyüleyici podcast’lerharika infografikler, kaçırılmayacak haber bültenlerimutlaka izlenmesi gereken videolar, zorlu oyunlarve bilim dünyasının en iyi yazı ve haberciliği. Hatta yapabilirsin birine abonelik hediye etmek.
Ayağa kalkıp bilimin neden önemli olduğunu göstermemiz için bundan daha önemli bir zaman olmamıştı. Umarım bu görevde bizi desteklersiniz.
News
