1 Şaşırtıcı Neden Yapay Zeka İnsan Bilinciyle Asla Rekabet Edemez

Çoğu zaman, insan benzeri yapay zeka inşa etmek, insanları yapıbozuma uğratmakla başlar. Örneğin parmak izi alın.

Bulaşıkları yıkarken parmak izi yapımızı dikkate alarak her bir sabunlu tabak, bardak ve kaşık üzerindeki tutuşumuzu sezgisel olarak ayarlıyoruz. Bu sadece aklımızdan geçmiyor çünkü biz onu reflekse bağladık – ve en uzun süredir bilim adamları da öyle. Kimsenin bunun nasıl çalıştığını çözecek herhangi bir denklemi yoktu çünkü pek de önemli değildi. Sadece işe yaradı. Ancak robotiğin yükselişi karmaşık şeyleri de beraberinde getirdi.

Bir robotun bunu yapabilmesi için neler olduğunu tam olarak anlamamız ve hatta bu bilgiyi okunaklı koda dönüştürmemiz gerekiyor. Parmak izi tutuşunun şifresini çözmek artık önemli ve araştırmacılar nihayet bir açıklamak için yeni fizik kanunu BT.

Bir anlamda, fiziksel bilgi ve insan özelliklerinin kodlanabilirliği, robotik programlama için ön koşullardır. Bu da gerçekçi yapay zekanın geleceği için önemli bir soruyu gündeme getiriyor: İnsan bilincinin bu kriterleri asla karşılamayan yönleri var mı?

Görünüşe göre, bazı filozoflara göre, olabilir. Ve kesinlikle zihin eriten iki düşünce deneyini okuduktan sonra, aynı fikirde olabilirsiniz. Ya da olmayabilirsin.

Mary’nin bilmediği şey

Mary adında bir kadın küçük bir evde yaşıyor. O hiç ayrılmadı. Evinin etrafına ve pencerelerinden dışarı baktığında, her şey siyah, beyaz veya bir çeşit gri görünüyor. Mary renkleri göremiyor ama sık sık, “Siyah beyaz televizyonumdaki o insanlar kırmızı güllerden bahsettiklerinde ne anlama geliyor?” diye merak ediyor.

Diyelim ki Mary’nin odasında sihirli bir kitaplık var. Bu varsayımsal yer, kırmızı renkle ilgili her bilgi parçacığını içeren kitaplar içerir. Ve her şeyi kastediyorum. Bilgiye olan susuzluğunu gidermek için Mary hepsini okur.

Kırmızı elektromanyetik dalga boylarını, kıpkırmızının insanları nasıl hissettirdiğini, kırmızının en net tanımlarını, kirazlarla ilgili analojileri ve aklınıza gelebilecek her şeyi öğrenir. Artı daha. Kırmızı hakkında Mary’den daha fazla kimse bilmiyor. Sonra okumasını bitirir… ve evinin dışına çıkmaya karar verir.

Vay canına.

Mary’nin sürprizine göre, renk görüyor. O asla renk körü olmadı. Evi, mobilyaları ve elektroniği sadece siyah beyaz olarak inşa edilmişti ve pencereleri dış dünyayı monokrom olarak süzüyordu.

Sonra büyük bir şey olur. Mary, uzmanlığının rengi olan kırmızı bir elma görür. Çenesi düşüyor. O bir şey öğrenir yeni kırmızı hakkında. Ama… bu garip. Bu bilgi neden kitaplığında bir yerde yoktu? Kırmızı renk hakkında öğrenilebilecek her şeye sahipti, değil mi?

Bu hikaye ünlülere bir bakış 1986 düşünce deneyifilozof Frank Jackson’ın “Mary’nin Bilmediği Şey” ve Mary’nin az önce topladığı kırmızı hakkında soyut bilgi parçasına qualia denir.

qualia nedir?

Basitçe söylemek gerekirse, qualia, yalnızca bilinçli deneyim yoluyla elde edilebilecek bilgiyi tanımlar.

En sevdiğiniz şarkıyı ilk duyduğunuzda aldığınız öznel bilgiler gibi. Omurganızda bir ürperti hissetmiş ve arkadaşlarınıza, “Anlamak için onu dinlemelisiniz” demiş olabilirsiniz. Müzik teorisinin ve akustik biliminin derinlikleriyle beyinlerini sihirli bir şekilde patlatmak muhtemelen işe yaramazdı. Duyana kadar, yapmazlardı. bilmek şarkı senin gibi

Qualia, en iyi sinirbilimcilerin, psikologların ve şairlerin bile kalp kırıklığının acısını, hiç kalp kırıklığı yaşamamış birinin gerçekten anlamasını sağlayacak kadar iyi açıklayamamasının nedeni olabilir.

Ve Mary’ye dönersek, dünyanın kırmızıyla ilgili tüm fiziksel bilgileri, ona renk tonuna bakmanın gerçekte ne olacağını öğretmek için yeterli değildi. olmak beğenmek. Jackson, “Siyah beyaz odadan çıkarıldığında veya renkli bir televizyon verildiğinde, diyelim ki kırmızı bir şey görmenin nasıl bir şey olduğunu öğrenecek” diye yazıyor. “Bu, haklı olarak öğrenme olarak tanımlanıyor – ‘ho, hum’ demeyecek.”

Teori yıllardır ortalıkta dolaşıp duruyor olsa da, hala bir oldukça popüler Bazı bilgilerin dil tarafından nasıl tarif edilemez ve insan bilincine özgü olduğuna dair argüman. Bunun anlamı, eğer qualia dır-dir gerçek bir güç, onun iç işleyişini yazmak ve bu nedenle programlamak inanılmaz derecede zor olurdu. İnsanlar ve AI arasında bir engel olabilir.

Öte yandan, belki de değil. Belki bir şekilde şifresini çözebiliriz, parmak izi tutma dinamiklerini yavaş yavaş öğreniyoruz.

Bilir miyiz?

Kısa cevap: Bilmiyoruz. Uzmanlar her iki yönde de savunduve bazıları yeni açılar buldu. Ancak çoğu varsayımsal duvarların arkasına sıkışmış durumda ve işin gerçeği şu ki qualia bilimsel açıklama yok.

qualia robotu yapmak

Tamam, sana Mary hakkında söylediklerime göre, muhtemelen qualia’ya bazı itirazlar düşünmüşsündür. Yalnız olmazdınız: Düşünce deneyleri genellikle boşluklarla doludur ve Mary’nin odası da bir istisna değildir.

Bazı karşı görüşler, odadaki gölgelerin renk pigmentleri taşımış olabileceğini öne sürdü. Diğerleri, “sihirli kitaplığın” Mary’ye bizim hayal edemeyeceğimiz bir şekilde bilgi vereceğini söylüyor. İkinci noktaya gelince, büyüleyici bir çürütme – ve AI hakkındaki büyük sorumuzla çarpıcı bir şekilde alakalı – filozof Daniel Dennett’ten geliyor.

Özetle, Dennett, eğer Mary gerçekten kırmızı hakkında tüm bilgiye sahip olsaydı, o bir nevi her şeyi bilir olmaz mıydı? Standart bir insan gibi sadece rengi bilmeyecekti. Teorik olarak, kırmızı edebiyatının bir parçası olarak varsa, kırmızı “qualia” hakkında bilgi edinirdi, değil mi? Ve bu düşünce tarzından, qualia’nın gerçekten de yapay zeka seviyesini yükseltmeye hazır olduğunu tahmin edebiliriz, ancak henüz onu nasıl kullanacağımızı bulamadık.

Belki, ama bu bir çıkmaz sokak gibi geliyor. Mary’nin bu tür güçlere sahip olup olmayacağından emin olamayız. Her şeyi bilen değiliz, bu yüzden bu güçlerin neye benzeyeceğini bile bilmiyoruz. Böylece, Dennett diyor ki, hadi Mary’nin insan olduğunu unut Bu kısıtlamaları kaldırmak için.

RoboMary’ye girin.

“Robotlar açısından düşünmek yararlı bir alıştırmadır, çünkü beyinler hakkında henüz ne olup bittiğini söylemek için yeterince bilgi sahibi olmadığımız bahanesini ortadan kaldırarak, beyinlerin gizemli güçleri hakkında bir tür yünlü romantizme izin verir. yargımızı bulanıklaştırmak için” diye yazıyor Dennett.

RoboMary’nin bildikleri

İki numaralı düşünce deneyine hoş geldiniz.

RoboMary, Mark 19 adlı bir bot sınıfının yinelemesidir, ancak ne yazık ki, renk görüşü olmadan oluşturulmuştur ve bir yükseltme beklemektedir. O zamana kadar, RoboMary’nin “gözleri” veya video kameraları, bilgileri yalnızca siyah beyaz olarak iletir.

Dennett, “RoboMary’nin siyah-beyaz kameraları, insan Mary’nin izolasyonu için güzel bir şekilde duruyor ve onun siyah-beyaz kamera gözleriyle okuduğu psikofizik ve sinirbilim dergilerinde dilediğimiz gibi dolaşmasına izin verebiliriz” diye yazıyor.

Temel olarak, sihirli kütüphanenin kendi versiyonuna bakıyor. Ancak RoboMary işleri bir adım öteye taşıyor.

Dennett, Mark 19 renk girişlerinin nasıl çalıştığını öğreniyor ve ardından “engin bilgisini kullanarak siyah beyaz kameralarından gelen girişi renklendirmesini sağlayan bazı kodlar yazıyor” diye yazıyor. Kendini insan Mary’nin yapamayacağı şekilde değiştirir.

Bu yeni ayar, örneğin siyah beyaz görüşüyle ​​bir elmaya bakmasına ve ardından onu Mark 19 botları için doğru renk kodu olarak doğru bir şekilde hayal etmesine olanak tanır. RoboMary, dünyayı keşfederken ayarı her şeye otomatik olarak uygulamaya başlar. Ama o burada Gerçekten kendini ayırır. Diğer çalışan Mark 19’ları gözlemler, çeşitli renklere nasıl tepki verdiklerini inceler ve buna göre kendini ayarlar.

Bu noktada RoboMary her renk girişinin ne olduğunu bilir. ve onlara diğer Mark 19’larla aynı şekilde tepki verir.

Büyük gün gelir. RoboMary’nin renk sensörleri ateşlendi.

Dennett, “Nihayet renkli kameralarını kurduğunda, renklendirme yazılımını devre dışı bıraktığında ve gözlerini açtığında… hiçbir şey fark etmiyor. Aslında, renkli kameraların kurulu olduğundan emin olmak için kontrol etmesi gerekiyor,” diye yazıyor. “Renkleri diğer Mark 19’ların yaptığı gibi görmenin onun için nasıl bir şey olacağını zaten biliyordu.”

Bunu düşündükçe üşüyorum. RoboMary, ayarlarını değiştirerek kendisi için qualia simülasyonu yapmış gibi görünüyor. Ama aynı zamanda çok daha korkunç bir durum hayal etmekten de kendimi alamıyorum.

Ya RoboMary gözlerini açarsa… ve her şey farklıysa?

İnsanlar olarak kısıtlıyız

Mary destanı burada bitmiyor.

Bazıları orijinal argümanı geliştirmek için Jackson’ın kendisinden gelen tonlarca başka modifikasyona rağmen, Dennett’in tüm çalışması da inanılmaz derecede titiz.

Mary ve RoboMary hakkında düşündüğünüzde hissedebileceğiniz sayısız itirazı ele alıyor ve daha sonra, qualia’nın hala korunup korunmadığını görmek için RoboMary’nin ayarlarını hiç değiştirmesine izin vermeyen karmaşık bir senaryoya giriyor. Dennett’in “başlıklı makalesinin devamı bile var.RoboDennett’in Hala Bilmediği Şey.“

Ancak tüm felsefi düşünce deneylerinde olduğu gibi, Mary ve RoboMary’nin amacı size gerçeği söylemek değildir. Sizi seçenekler hakkında düşünmeye ve gerçeği kendi başınıza bulmaya zorlamak içindir.

Aklıma gelen birkaç tanesi şunlar: Belki de AI, qualia kazanmak için tıpkı RoboMary gibi inşa edilmelidir. Ya da belki robotlar daha geniş anlamda bilinçli olarak programlanabilir – yani, bilinci bir bütün olarak matematiksel olarak açıklamanın bir yolunu bulabilirsek. “Bilinçli” bir robot, potansiyel olarak dünyayı bizim yaptığımız gibi keşfedebilir ve dolayısıyla bizim gibi nitelikler kazanabilir.

Ya da belki de qualia düşündüğümüz gibi değildir. Jackson’ın hikayesi, Mary’nin kırmızıya bir kez baktığında, kesinlikle olur. Ona “qualia” adı verildi ve yeni bir şey öğrenmeye atfedildi, ama ya birçok isimle birçok şeyin birleşimiyse ve öğrenmeyle hiçbir ilgisi yoksa?

Veya… belki, sadece belki, qualia gerçekten insan bilinci ile yapay zeka arasında dokunulmaz, programlanamaz bir engeldir.

Bu açılar buzdağının sadece görünen kısmıdır ve henüz olmasa bile yıllar geçtikçe çürütülebilir (muhtemelen olacaktır). Ancak RoboMary’nin en başta çağrılma nedenini hatırlayın: insan sınırlarını aşan bir varlık hayal etmek.

Bu çok uzak bir düşünce deneyi çünkü insanlar olarak kısıtlıyız. Tek yapabileceğimiz spekülasyon yapmak.