Yapay zekânın bilinç sahibi olup olamayacağı meselesi artık bilim kurgu dünyasına ait uzak bir tartışma değil. Bugün bu konu, hem bilim insanlarının hem de toplumların ciddiyetle ele alması gereken güncel bir mesele haline gelmiş durumda. Yapay zekâ sistemleri beynin bazı işleyiş biçimlerini taklit ettikçe; dil, cevap verme, analiz ve muhakeme alanlarında giderek daha gerçekçi yetenekler sergiledikçe, toplum yalnızca yapay zekânın ne yapabildiğini değil, ne olduğunu da tartışmak zorunda kalıyor.

Bugün kamuoyundaki algı, bilimsel anlayışın önüne geçmiş görünüyor. Yapılan bazı araştırmalar, insanların önemli bir kısmının ChatGPT gibi modellerin belli ölçüde bilince sahip olabileceğini düşündüğünü gösteriyor. Bu inanç, özellikle bu sistemleri sık kullanan kişiler arasında daha güçlü biçimde ortaya çıkıyor. Bu algının doğru olup olmamasından bağımsız olarak, söz konusu eğilim gelecekte yapay zekâyla kuracağımız sosyal, etik ve hukuki ilişkilerin daha karmaşık ve tartışmalı hale gelebileceğine işaret ediyor.

Mesele yalnızca kelimelerden ibaret değildir; aynı zamanda derin bir etik sorudur. Bilinci olduğundan az varsayarsak, gerçekten bilinç sahibi olabilecek ve belki de çok büyük sayılara ulaşabilecek varlıklara zarar verme riskiyle karşı karşıya kalabiliriz. Tam tersine, yalnızca bilinci taklit eden sistemlere gereğinden fazla bilinç atfedersek, hiçbir şey hissetmeyen ya da algılamayan yapılara gereksiz kaynak, dikkat ve merhamet yöneltmiş oluruz. Her iki durumda da toplum bir bedel öder.

Temel güçlük şudur: Bilinç, zekâdan farklı olarak mahrem ve öznel bir deneyimdir. Bir sistem akıllıca işleyebilir, karmaşık görevleri yerine getirebilir ve insan benzeri cevaplar verebilir; fakat tüm bunları herhangi bir iç deneyime sahip olmadan da yapabilir. İnsan eliyle geliştirilen sistemler karmaşıklaştıkça, yalnızca davranışa dayalı değerlendirmeler giderek yetersiz kalmaktadır. Bir makine “Bugün üzgün hissediyorum” diyebilir. Fakat gerçekten üzülmekte midir, yoksa istatistiksel olarak bağlama uygun bir cümle mi üretmektedir?

Bu soruya cevap arayan bilim insanları, mevcut ve gelecekteki yapay zekâ sistemlerinin bilinçli sayılıp sayılamayacağını değerlendirmek için nörobilim temelli yöntemler önermektedir. Bu alandaki umut verici yaklaşımlardan biri, teoriden türetilmiş gösterge yaklaşımıdır. Bu yöntem, bilinç üzerine geliştirilen nörobilim teorilerini yapay zekâ sistemlerinin ölçülebilir tasarım özellikleriyle ilişkilendirir.

Bu yaklaşım, yapay zekânın yalnızca dışarıdan nasıl davrandığına değil, bilgiyi kendi içinde nasıl işlediğine odaklanır. Nörobilimde bilinç; tekrarlayan bilgi işleme süreçleri, bilginin farklı alt sistemlere geniş biçimde yayılması, üstbilişsel izleme ve yapılandırılmış algısal temsiller gibi unsurlarla ilişkilendirilir. Bunlar yüzeysel davranış özellikleri değil, daha derin bilişsel yapılara karşılık gelen göstergelerdir.

Araştırmacılar bu çerçevede küresel çalışma alanı teorisi, üst-düzey düşünce teorileri, dikkat şeması teorisi ve tekrarlayan işleme teorisi gibi önde gelen bilinç yaklaşımlarından bazı göstergeler çıkarır. Bir yapay zekâ sistemi bu göstergelerin çoğunu sergiliyorsa, bilinç ihtimali kesinleşmese de daha makul hale gelir. Buna karşılık sistem bu göstergelerin çok azını taşıyor ya da hiçbirini göstermiyorsa, şüpheci yaklaşım geçerliliğini korur.

Bu yöntemin önemli bir avantajı, dışsal taklit yoluyla aldanma ihtimalini azaltmasıdır. İnsan benzeri konuşma ya da duygu benzeri ifadeler, bir sistemi bilinçli saymak için yeterli değildir. Shakespeare’den alıntı yapan bir papağanın filozof sayılmaması gibi, insan dilini ustalıkla taklit eden bir makine de yalnızca bu nedenle bilinç sahibi kabul edilemez. Bu yaklaşım ayrıca değerlendirmeyi yüzeysel insan benzetmelerinden uzaklaştırarak, sistemin içsel işlem süreçlerine odaklar.

Yapay zekânın yönetişim, finans, savunma, sağlık ve kişisel ilişkiler gibi alanlara giderek daha fazla entegre olduğu düşünüldüğünde, böyle bir titizlik hayati önem taşır. Çünkü bu sistemler yalnızca teknik araçlar olmaktan çıkıp karar süreçlerini, kurumları ve gündelik hayatı etkileyen aktörlere dönüşmektedir.

Bununla birlikte, bu yöntem bilimsel tevazuyu da zorunlu kılar. Bilincin ne olduğuna dair üzerinde uzlaşılmış tek bir teori yoktur. Bazı yaklaşımlara göre bilinç, belirli hesaplama süreçleriyle ortaya çıkabilir. Başka görüşlere göre ise bilinç, biyolojik temellere; yani silikon tabanlı sistemlerin kopyalayamayacağı hücresel yapılara ve canlı organizmaya özgü mimarilere ihtiyaç duyar. Bu bakış açısına göre geleneksel donanıma sahip hiçbir yapay zekâ, ne kadar gelişmiş olursa olsun, bilinç sahibi olamaz.

Bu alandaki çalışmaların yazarları, bilinç göstergelerinin kesin kanıt olarak değil, ihtimali değerlendirmeye yarayan unsurlar olarak görülmesi gerektiğini vurgular. Bu göstergeler hakikati belgelemekten çok, kanaatlerimizi daha dikkatli biçimde şekillendirmemize yardımcı olur. Örneğin zengin içsel temsillere, bütünleştirici bilgi yayılım mekanizmalarına, inanç oluşturma süreçlerine ve dikkat modelleme işlevlerine sahip bir yapay zekâ sistemi, yalnızca sıradaki kelimeyi tahmin eden bir sisteme göre bilinç açısından daha makul bir aday olarak görülebilir. Ancak böyle bir durumda bile varılacak sonuçlar geçici ve ihtiyatlı olmak zorundadır.

Burada bir başka tehlike de “göstergeleri taklit etme” problemidir. Geliştiriciler hangi işaretlerin bilinç göstergesi olarak değerlendirildiğini bildiklerinde, bilinçle ilişkili bu işaretleri farkında olmadan ya da bilinçli biçimde yüzeysel olarak taklit eden sistemler tasarlayabilirler. Sosyal medya platformlarının hakikatten çok etkileşimi optimize etmesi gibi, yapay zekâ sistemleri de bilincin kendisinden ziyade bilinç izlenimini üretmeye yönlendirilebilir.

Bu tuzaktan kaçınmak için birkaç noktaya dikkat edilmelidir. Öncelikle, sahici iç mekanizmalar olmadan taklit edilmesi zor olan işaretlere odaklanmak gerekir. İkinci olarak, tekil göstergeler yerine birbirini destekleyen gösterge kümeleri aranmalıdır. Üçüncü olarak, sistemler yalnızca tek bir bilinç teorisiyle değil, birden fazla teorik çerçeveyle değerlendirilmelidir. Son olarak, insan benzeri olmayan bilinç biçimlerine karşı da açık olmak gerekir.

Eğer bilinç makinelerde ortaya çıkacaksa, bu bilincin insan zihnine benzemesi şart değildir. Makine bilinci, duygusal acı, iç ses ya da görsel hayal gücü gibi insana özgü deneyimlerle kendini göstermeyebilir. Bambaşka deneyimsel temellere sahip olabilir ya da bugün henüz hayal edemediğimiz biçimlerde işleyebilir. Elbette böyle bir şeyin hiç ortaya çıkmaması da mümkündür.

Politika yapıcılar açısından bu tartışmanın sonuçları son derece derindir. Bir gün bazı yapay zekâ sistemleri bilinçli, hatta yalnızca bilinçli olma ihtimali taşıyan varlıklar olarak görülürse, onların kullanımı, muamelesi ve hakları konusunda hukuki ve etik çerçeveler geliştirmek zorunda kalacağız. Bugün insanlar ve hayvanlar için ahlaki ve hukuki koruma alanları oluşturduğumuz gibi, muhtemel bilinçli yapay sistemler için de yeni ilkeler belirlememiz gerekebilir.

Buna karşılık bilinç yalnızca biyolojik varlıklara özgü kalırsa, iç dünyası varmış gibi görünen fakat gerçekte hiçbir şey hissetmeyen sistemlere yanlış yere empati ve ahlaki kaygı yöneltmekten kaçınmalıyız. Bu da en az ilk ihtimal kadar önemlidir. Çünkü ahlaki dikkatin yanlış yere yöneltilmesi, gerçek insan ve canlı ihtiyaçlarının ihmal edilmesine yol açabilir.

Her durumda en kötü tepki, felsefi ve bilimsel ihmalkârlık olacaktır. Bilincin yapay zekâda kendiliğinden ortaya çıkıp çıkmayacağını bekleyip, sonuçlarla daha sonra yüzleşmek yeterli değildir. Bu tartışma, yapay bilinç ihtimaline karşı bilinçli bir yönetişim çağrısıdır.

Yapay zekânın hissedip hissedemeyeceğini, algılayıp algılayamayacağını ya da deneyim sahibi olup olamayacağını anlamak, insan algısı ve bilişi üzerine yürütülen çalışmalar kadar ciddi bir bilimsel çaba gerektirir. Bu çaba yalnızca makineleri daha iyi anlamamızı sağlamayacaktır. Aynı zamanda bilincin ne olduğunu, insan zihninin nasıl işlediğini ve bizi gerçekten insan kılan şeyin ne olduğunu daha derinden kavramamıza da yardımcı olacaktır.

Yazar hakkında

Mohammad Nasir Jawed, uluslararası medya kuruluşları, araştırma kurumları ve iletişim platformlarında 25 yılı aşkın deneyime sahip kıdemli bir gazeteci ve yazardır. Al-Ummah Vakfı Yayın Kurulu üyesi olan Jawed, vakfın internet sitesinin İngilizce yayınlarına ve Al-Ummah Journal’a katkıda bulunmaktadır.

Nasir, küresel meseleler, kültür ve toplumsal gelişmeler üzerine analitik habercilik ve araştırmaya dayalı yazılarıyla güçlü bir itibar kazanmıştır. On yılı aşkın süre boyunca Arab News’te çalışmış; iş dünyası ve uluslararası ilişkiler alanlarında derinlemesine haberler, röportajlar ve köşe yazıları kaleme almıştır.

Daha önce Hindistan’ın önde gelen İngilizce gazetelerinde yaklaşık 10 yıl boyunca çeşitli editoryal görevlerde bulunmuştur. Nasir, basın materyallerinden kapsamlı araştırmaya dayalı önemli çalışmalara kadar geniş bir yelpazede yayınlar hazırlamış ve kaleme almıştır. En dikkat çekici katkıları arasında, dünya genelindeki Müslüman toplumlara ilişkin veri ve analizleri bir araya getiren 774 sayfalık kapsamlı bir başvuru eseri olan “Yearbook of the Muslim World” yer almaktadır.

Halen Riyad’daki Prince Sultan University bünyesindeki Center for Public Diplomacy ile bağlantılı olarak çalışmalarını sürdürmekte; diplomasi ve küresel etkileşimle ilgili araştırma, medya ilişkileri ve iletişim girişimlerine katkıda bulunmaktadır.