Yapay zekadaki ilerlemelerle ilgili son haberler, özellikle de chatbot ChatGPT'nin ortaya çıkışı, birçok Amerikalıyı bu teknolojilerin neler üretebileceği konusunda etkiledi ve yapay zekanın insan zekasına rakip olup olamayacağı konusunda tedirginlik yarattı.
O kadar hızlı değil, diyor Ph.D. Dennis Yi Tenen. '12, Berkman Klein İnternet ve Toplum Merkezi'nin eski bir üyesi. Yapay zeka pek yeni değil ve zeka biraz zorlayıcı olabilir. Eski yazılım mühendisi ve güncel edebiyat uzmanı, “Robotlar İçin Edebiyat Teorisi: Bilgisayarlar Yazmayı Nasıl Öğrendi” adlı yeni kitabında, modern makine zekasının yüzyıllar öncesine uzanan köklerinin izini sürüyor. Şu anda Columbia Üniversitesi'nde İngilizce doçenti ve Karşılaştırmalı Medya Merkezi'nin eş yöneticisi olan Tenen, kitabı hakkında Gazete'ye konuştu. Bu röportaj uzunluk ve netlik açısından düzenlendi.
Sizi “Robotlar İçin Edebiyat Teorisi”ni yazmaya iten şey neydi?
Benzer şekilde, birkaç yıl önce Gmail mesajlarımızı tamamlamaya başladığında, genel olarak okuryazarlık anlayışımızı değiştiren bir şeylerin olduğu benim için açıktı. Hemen bu konuda yazmak istedim.
Bir araştırmacı olarak bu tavşan deliklerinden aşağı inmeye başlıyorsunuz ve birdenbire kendinizi ortaçağ Arap felsefesinde, ortaçağ elyazmalarını anlamak için Google Çeviri'yi kullanmaya çalışırken buluyorsunuz! Genel olarak yaklaşımım, önümde olana bakmak ve ardından onu tarihsel olarak geriye doğru çözmeye başlamaktır.
En büyük nedeni ise her zaman edebiyat çalışmalarının geçmişini ve geleceğini düşünüyor olmamdır. Bu kitapla edebiyat çalışmalarının genişlemesini ve alanın geleceğini tartışmak istiyorum. Makine Edebiyatı Çalışmaları Enstitüsü'nün kurulması gibi bir şey hayal ediyorum. Giderek daha fazla metin makineler tarafından ve makinelerle yazıldıkça, süreci, bunların etkilerini ve düşüncelerimizi incelememiz gerektiğini düşünüyorum. Ve edebiyat akademisyenlerinin ve hümanistlerin bu geleceğin tasarlanmasına aktif olarak katılmalarını sağlamak istiyorum. Mühendisler, sosyal bilimciler ve beşeri bilimlerle işbirliği içinde yapılması gerekiyor.
Yapay zekanın tarihsel gelişimini anlamanın neden önemli olduğunu düşünüyorsunuz?
Kısmen bu, daha az kaygılı olabilmemiz için. Tarihsel olarak, yaratıcılığın ve teknolojinin sınırında her zaman kaygı vardır. Makine konuşmalarındaki ilk çabaların çoğunlukla mistisizm ve dine çok yakın olması tesadüf değildir. Günümüzde teknolojinin bizi rahatsız etme biçimi çoğu zaman bir tür teolojik metafizik sorun gibi geliyor kulağa. Ama aslında teknoloji bizi ne kurtaracak ne de yok edecek. Bu sadece belirli bir tarihsel akışın devamıdır. Ve bence tarihle birlikte şu ana dair anlayışımız çok daha zenginleşiyor.
Pek çok açıdan yapay zeka, en azından insanların anladığı şekliyle, aslında zekayla ilgili değildir. Bu daha çok olasılıkları tahmin etmek için büyük miktarda veriden yararlanmakla ilgilidir. Ancak yine de yapay zekanın “öğrendiğini” veya “anladığını” öne süren bir dil kullanıyoruz. Bunun neden sorunlu olduğundan bahsedebilir misiniz?
Dil bize bu kadar yakın olunca biraz kafamız karışıyor sanırım. Şimdi sahip olduğumuz harika hava tahmini modelleri gibi daha kolay bir örnek seçelim. Model hava durumunu “anlıyor” mu? Ve hemen görüyorsunuz… Sanırım, bir nevi mecazi anlamda? Edebi ve metinsel yapay zekaya bir nevi benziyor. Onlar sadece büyük tahmin gücüne sahip karmaşık matematiksel gerçeklerdir [for the next letter, word, or sentence]. Tanımı gereği anlamak gibi bir şey sadece insana ait bir kavramdır. Bu yola girip anlayıp anlamadığını sormak biraz hayal ürünü gibi. Bazı açılardan belki ama çoğunlukla hayır.
Yapay zeka aslında ince örtülü bir kolektif zekadır. Bu sadece başkalarıyla uzaktan işbirliği yapmanın bir yoludur. Bir hayal edin: Eğer paranız yetseydi, yazar olarak sizi takip eden bir mühendis ekibi olurdu. Ne zaman yazsan, şöyle derler: “Bunu anladık! Bunu tüm bu filtrelerden geçireceğiz. Kütüphaneye gideceğiz, kaynaklarınızı kontrol edeceğiz ve bunu sizin için otomatikleştireceğiz.”
Yapay zeka devasa bir işbirliği çabasıdır. Binlerce insanın yüzyıllar boyunca cümlenizin gramerini kontrol etmek için işbirliği yapması başlı başına şaşırtıcı. Bu yapay zeka değil; teknoloji aracılığıyla gerçekleşen kolektif emektir.
Teknolojiden bahsederken genellikle onu yaratan kolektif çabadan ziyade, teknolojiye aracılık eden bir dil kullanırız. Kitapta verdiğiniz bir örnek şu: “'Aşağıdaki düzinelerce araştırma makalesini temel alan otomatik tamamlama aracı yazma yazılımının arkasındaki mühendislik ekibi mesajlarımı tamamlıyor' yerine 'Telefon mesajlarımı tamamlıyor' demek daha kolay.” Ne yapacağız? Sahne arkasında neler olup bittiğini kısalttığımızda özlüyor musun?
Burada iki tür politik, etik an var: Biri gizli emeğin kabul edilmesi. Diğer çok iyi akademisyenler, Facebook'un sizi (kullanıcı olarak) rahatsız edici içerikten koruyan filtrelere sahip olduğuna dikkat çekti. Ama aslında filtre, orada oturup bütün gün korkunç içerikleri izleyen insanlar tarafından eğitiliyor. “Filtrenin” spam klasörüne bir şeyler koyduğunu söylemek için mi? Evet, ama insan zekası ve gerçek duygusal emek pahasına. Bunların hiçbiri kabul edilmiyor. Bunun yerine filtre bunu “yaptı”.
Ve ikinci kısım ajanstır. Basit bir örneği ele alalım; tam otomatik, sürücüsüz bir araba birisini öldürdüğünde. Çok karmaşık bir faillik ağını çözebilmemiz için bunu yapanın araba olmadığını söylememiz gerekiyor: Sürücünün ihmali miydi? Mühendisin ihmali miydi? Kurumsal ihmal miydi? Belki yol muydu? Sadece bunu araba yaptı demek, teknolojiyi suçlamaya veya övmeye başlamadan önce çözmemiz gereken her türlü politik ve sosyal sorunu gizler.
İnsanların yapay zekanın kolektif doğasını anlaması neden faydalıdır?
Umarım bu projenin bir parçası olduklarını hissedecekleri bir alan yaratır. Hangi üretken yapay zekayı kullanıyor olursanız olun, sizin sözleriniz üzerine eğitilmiştir. Yazdığınızda katkıda bulunuyorsunuz. Bu projeye binlerce, muhtemelen milyonlarca insan katkıda bulunuyor. Ve ben yazarken o kalabalık burada da mevcut. Bize yetki verir. Bir sesiniz var ve süreci şekillendirmede rolünüz var.
Kitap daha çok tarih ve edebiyat teorisine odaklanıyor ama aynı zamanda oldukça komik, hatta şiirsel. Neden daha neşeli bir üslup kullanmaya karar verdiniz?
Akademisyenler olarak tartışmamızın bir kısmı içeriğin düzeyine bağlı, ancak mesajımızı iletmek için stilistik olarak yapılabilecek pek çok çalışma olduğunu düşünüyorum. Bazen teknik ve tarihsel açıdan şişkin olan malzeme göz önüne alındığında, gerçekten yoğun olabilir. Bu kitapta, teknolojinin üzerine katmanlı ortaçağ mistisizmi var; insanlara hemen hitap etmeyebilecek türden şeyler.
Bazı tarihi karakterleri canlandırmak, onlara hayat vermek, mizahlarını katmak; onları sıkıcı teknoloji uzmanları yapmadığımdan emin olmak istedim. Onlar bir grup tuhaf adamdı; insanların çoğu – gibi [19th-century computer pioneers] Ada Lovelace ve [Charles]Babbage; olağanüstü derecede tuhaflardı. Bilim, edebiyat ve insanlık arasındaki sınırlara saygı duymadılar. İşte bu noktada kendi stil anlayışım ve sesim devreye giriyor.
Kitapta şablonların kullanımından ve şablon kültürünün neredeyse her sektöre nasıl yayıldığından bahsediyorsunuz. Ancak edebiyat veya sanat eserlerini şablonlamaktan bahsettiğimizde dirençle karşılaşıyoruz. Nedenmiş?
Bu, yazarlığın utanç verici küçük sırrıdır. Uzun bir süre geriye dönersek, şablonlara güvendik. Ancak yazarın her şeyi kendi başına icat eden yalnız bir dahi olduğuna dair romantik bir düşünce var. Ben buna karşı çıkıyorum ama diğer önemli kısım da yazarlığı emek olarak görmeliyiz. Bunu şu anda Hollywood'da ve başka yerlerdeki yazar grevlerinde büyük ölçüde görüyoruz. Otomasyon yüzünden emek kesintiye uğradı. Ancak Viktorya dönemi İngiltere'sinde bir demirciyseniz, otomasyonu çok daha erken, yazar için bu şablon oluşturma kültürünün ortaya çıkmasından önce hissettiniz.
Şablon oluşturmanın insan yaratıcılığını veya zekasını azalttığını veya ucuzlattığını mı düşünüyorsunuz?
Kolay bir soru değil. Kitapta, işler otomatikleştiğinde emeğin değerinin düştüğünü yazdım. Örneğin 200 yıl önce sadece okuryazar olmak bile size harika bir iş kazandırıyordu. Küçük kasabanızda yüksek sesle bir şeyler okuyabilen ve insanlardan para alabilen tek kişi siz olursunuz. Teknoloji, kitaplar ve sözlükler aracılığıyla kitlesel okuryazarlığın ortaya çıkışıyla birlikte dalga yükseliyor. Okuryazarlık kolektif zekayı ucuzlattı mı? Hayır, bence düzeldi. Shakespeare olmayan yazarların şablonlu e-postalar kullanıyor olması harika! Herkesi daha iyi bir yazar yaptı. İnsan yeteneğinin her zaman ortalamanın üzerine çıktığını düşünüyorum. Yani yapay zeka yeni bir ortalamayı temsil ediyorsa çıta her zaman yükseliyor.
O kadar hızlı değil, diyor Ph.D. Dennis Yi Tenen. '12, Berkman Klein İnternet ve Toplum Merkezi'nin eski bir üyesi. Yapay zeka pek yeni değil ve zeka biraz zorlayıcı olabilir. Eski yazılım mühendisi ve güncel edebiyat uzmanı, “Robotlar İçin Edebiyat Teorisi: Bilgisayarlar Yazmayı Nasıl Öğrendi” adlı yeni kitabında, modern makine zekasının yüzyıllar öncesine uzanan köklerinin izini sürüyor. Şu anda Columbia Üniversitesi'nde İngilizce doçenti ve Karşılaştırmalı Medya Merkezi'nin eş yöneticisi olan Tenen, kitabı hakkında Gazete'ye konuştu. Bu röportaj uzunluk ve netlik açısından düzenlendi.
Sizi “Robotlar İçin Edebiyat Teorisi”ni yazmaya iten şey neydi?
Cevabın kişisel ve daha geniş olmak üzere iki bölümü var. Kişisel olarak araştırmalarımın çoğu doğrudan yazma bağlamımla başlıyor. İlk kitabımda [“Plain Text: The Poetics of Computation” (2017)], Microsoft Word'de yazıyordum ve şunu fark ettim: “Bu çok tuhaf. Metnin nasıl çalıştığını gerçekten anlamıyorum.” Ben bir edebiyat akademisyeniyim ama kendimi bu araçlardan çok kopuk hissediyorum.
Benzer şekilde, birkaç yıl önce Gmail mesajlarımızı tamamlamaya başladığında, genel olarak okuryazarlık anlayışımızı değiştiren bir şeylerin olduğu benim için açıktı. Hemen bu konuda yazmak istedim.
Bir araştırmacı olarak bu tavşan deliklerinden aşağı inmeye başlıyorsunuz ve birdenbire kendinizi ortaçağ Arap felsefesinde, ortaçağ elyazmalarını anlamak için Google Çeviri'yi kullanmaya çalışırken buluyorsunuz! Genel olarak yaklaşımım, önümde olana bakmak ve ardından onu tarihsel olarak geriye doğru çözmeye başlamaktır.
En büyük nedeni ise her zaman edebiyat çalışmalarının geçmişini ve geleceğini düşünüyor olmamdır. Bu kitapla edebiyat çalışmalarının genişlemesini ve alanın geleceğini tartışmak istiyorum. Makine Edebiyatı Çalışmaları Enstitüsü'nün kurulması gibi bir şey hayal ediyorum. Giderek daha fazla metin makineler tarafından ve makinelerle yazıldıkça, süreci, bunların etkilerini ve düşüncelerimizi incelememiz gerektiğini düşünüyorum. Ve edebiyat akademisyenlerinin ve hümanistlerin bu geleceğin tasarlanmasına aktif olarak katılmalarını sağlamak istiyorum. Mühendisler, sosyal bilimciler ve beşeri bilimlerle işbirliği içinde yapılması gerekiyor.
Yapay zekanın tarihsel gelişimini anlamanın neden önemli olduğunu düşünüyorsunuz?
Kısmen bu, daha az kaygılı olabilmemiz için. Tarihsel olarak, yaratıcılığın ve teknolojinin sınırında her zaman kaygı vardır. Makine konuşmalarındaki ilk çabaların çoğunlukla mistisizm ve dine çok yakın olması tesadüf değildir. Günümüzde teknolojinin bizi rahatsız etme biçimi çoğu zaman bir tür teolojik metafizik sorun gibi geliyor kulağa. Ama aslında teknoloji bizi ne kurtaracak ne de yok edecek. Bu sadece belirli bir tarihsel akışın devamıdır. Ve bence tarihle birlikte şu ana dair anlayışımız çok daha zenginleşiyor.
Pek çok açıdan yapay zeka, en azından insanların anladığı şekliyle, aslında zekayla ilgili değildir. Bu daha çok olasılıkları tahmin etmek için büyük miktarda veriden yararlanmakla ilgilidir. Ancak yine de yapay zekanın “öğrendiğini” veya “anladığını” öne süren bir dil kullanıyoruz. Bunun neden sorunlu olduğundan bahsedebilir misiniz?
Dil bize bu kadar yakın olunca biraz kafamız karışıyor sanırım. Şimdi sahip olduğumuz harika hava tahmini modelleri gibi daha kolay bir örnek seçelim. Model hava durumunu “anlıyor” mu? Ve hemen görüyorsunuz… Sanırım, bir nevi mecazi anlamda? Edebi ve metinsel yapay zekaya bir nevi benziyor. Onlar sadece büyük tahmin gücüne sahip karmaşık matematiksel gerçeklerdir [for the next letter, word, or sentence]. Tanımı gereği anlamak gibi bir şey sadece insana ait bir kavramdır. Bu yola girip anlayıp anlamadığını sormak biraz hayal ürünü gibi. Bazı açılardan belki ama çoğunlukla hayır.
Yapay zeka aslında ince örtülü bir kolektif zekadır. Bu sadece başkalarıyla uzaktan işbirliği yapmanın bir yoludur. Bir hayal edin: Eğer paranız yetseydi, yazar olarak sizi takip eden bir mühendis ekibi olurdu. Ne zaman yazsan, şöyle derler: “Bunu anladık! Bunu tüm bu filtrelerden geçireceğiz. Kütüphaneye gideceğiz, kaynaklarınızı kontrol edeceğiz ve bunu sizin için otomatikleştireceğiz.”
Yapay zeka devasa bir işbirliği çabasıdır. Binlerce insanın yüzyıllar boyunca cümlenizin gramerini kontrol etmek için işbirliği yapması başlı başına şaşırtıcı. Bu yapay zeka değil; teknoloji aracılığıyla gerçekleşen kolektif emektir.
Teknolojiden bahsederken genellikle onu yaratan kolektif çabadan ziyade, teknolojiye aracılık eden bir dil kullanırız. Kitapta verdiğiniz bir örnek şu: “'Aşağıdaki düzinelerce araştırma makalesini temel alan otomatik tamamlama aracı yazma yazılımının arkasındaki mühendislik ekibi mesajlarımı tamamlıyor' yerine 'Telefon mesajlarımı tamamlıyor' demek daha kolay.” Ne yapacağız? Sahne arkasında neler olup bittiğini kısalttığımızda özlüyor musun?
Burada iki tür politik, etik an var: Biri gizli emeğin kabul edilmesi. Diğer çok iyi akademisyenler, Facebook'un sizi (kullanıcı olarak) rahatsız edici içerikten koruyan filtrelere sahip olduğuna dikkat çekti. Ama aslında filtre, orada oturup bütün gün korkunç içerikleri izleyen insanlar tarafından eğitiliyor. “Filtrenin” spam klasörüne bir şeyler koyduğunu söylemek için mi? Evet, ama insan zekası ve gerçek duygusal emek pahasına. Bunların hiçbiri kabul edilmiyor. Bunun yerine filtre bunu “yaptı”.
Ve ikinci kısım ajanstır. Basit bir örneği ele alalım; tam otomatik, sürücüsüz bir araba birisini öldürdüğünde. Çok karmaşık bir faillik ağını çözebilmemiz için bunu yapanın araba olmadığını söylememiz gerekiyor: Sürücünün ihmali miydi? Mühendisin ihmali miydi? Kurumsal ihmal miydi? Belki yol muydu? Sadece bunu araba yaptı demek, teknolojiyi suçlamaya veya övmeye başlamadan önce çözmemiz gereken her türlü politik ve sosyal sorunu gizler.
İnsanların yapay zekanın kolektif doğasını anlaması neden faydalıdır?
Umarım bu projenin bir parçası olduklarını hissedecekleri bir alan yaratır. Hangi üretken yapay zekayı kullanıyor olursanız olun, sizin sözleriniz üzerine eğitilmiştir. Yazdığınızda katkıda bulunuyorsunuz. Bu projeye binlerce, muhtemelen milyonlarca insan katkıda bulunuyor. Ve ben yazarken o kalabalık burada da mevcut. Bize yetki verir. Bir sesiniz var ve süreci şekillendirmede rolünüz var.
Kitap daha çok tarih ve edebiyat teorisine odaklanıyor ama aynı zamanda oldukça komik, hatta şiirsel. Neden daha neşeli bir üslup kullanmaya karar verdiniz?
Akademisyenler olarak tartışmamızın bir kısmı içeriğin düzeyine bağlı, ancak mesajımızı iletmek için stilistik olarak yapılabilecek pek çok çalışma olduğunu düşünüyorum. Bazen teknik ve tarihsel açıdan şişkin olan malzeme göz önüne alındığında, gerçekten yoğun olabilir. Bu kitapta, teknolojinin üzerine katmanlı ortaçağ mistisizmi var; insanlara hemen hitap etmeyebilecek türden şeyler.
Bazı tarihi karakterleri canlandırmak, onlara hayat vermek, mizahlarını katmak; onları sıkıcı teknoloji uzmanları yapmadığımdan emin olmak istedim. Onlar bir grup tuhaf adamdı; insanların çoğu – gibi [19th-century computer pioneers] Ada Lovelace ve [Charles]Babbage; olağanüstü derecede tuhaflardı. Bilim, edebiyat ve insanlık arasındaki sınırlara saygı duymadılar. İşte bu noktada kendi stil anlayışım ve sesim devreye giriyor.
Kitapta şablonların kullanımından ve şablon kültürünün neredeyse her sektöre nasıl yayıldığından bahsediyorsunuz. Ancak edebiyat veya sanat eserlerini şablonlamaktan bahsettiğimizde dirençle karşılaşıyoruz. Nedenmiş?
Bu, yazarlığın utanç verici küçük sırrıdır. Uzun bir süre geriye dönersek, şablonlara güvendik. Ancak yazarın her şeyi kendi başına icat eden yalnız bir dahi olduğuna dair romantik bir düşünce var. Ben buna karşı çıkıyorum ama diğer önemli kısım da yazarlığı emek olarak görmeliyiz. Bunu şu anda Hollywood'da ve başka yerlerdeki yazar grevlerinde büyük ölçüde görüyoruz. Otomasyon yüzünden emek kesintiye uğradı. Ancak Viktorya dönemi İngiltere'sinde bir demirciyseniz, otomasyonu çok daha erken, yazar için bu şablon oluşturma kültürünün ortaya çıkmasından önce hissettiniz.
Şablon oluşturmanın insan yaratıcılığını veya zekasını azalttığını veya ucuzlattığını mı düşünüyorsunuz?
Kolay bir soru değil. Kitapta, işler otomatikleştiğinde emeğin değerinin düştüğünü yazdım. Örneğin 200 yıl önce sadece okuryazar olmak bile size harika bir iş kazandırıyordu. Küçük kasabanızda yüksek sesle bir şeyler okuyabilen ve insanlardan para alabilen tek kişi siz olursunuz. Teknoloji, kitaplar ve sözlükler aracılığıyla kitlesel okuryazarlığın ortaya çıkışıyla birlikte dalga yükseliyor. Okuryazarlık kolektif zekayı ucuzlattı mı? Hayır, bence düzeldi. Shakespeare olmayan yazarların şablonlu e-postalar kullanıyor olması harika! Herkesi daha iyi bir yazar yaptı. İnsan yeteneğinin her zaman ortalamanın üzerine çıktığını düşünüyorum. Yani yapay zeka yeni bir ortalamayı temsil ediyorsa çıta her zaman yükseliyor.