MIT'nin Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı'nda (CSAIL) bir ziyaret sırasında bir gazeteci, yaklaşık 50.000 dolara mal olan Unitree insansı robotlarından biriyle karşılaştı. Robota verilen takma ad Gabe'di. Gazeteci, robotun bilinçli olmadığını bilmesine rağmen ona el uzatıp tokalaştı ve "Merhaba efendim, tanıştığımıza memnun oldum" dedi. Bu sıradan görünen an, aslında insanın yapay zekâ ve robotlarla kurduğu ilişkinin özünü ele veren sembolik bir sahneye dönüştü.
Bu eğilim yalnızca bireysel bir zaafiyetten ibaret değil. Bir araştırma, insanların yapay zekâyla etkileşimde yüzde 70 oranında kibar davrandığını ortaya koyuyor. Bir diğer çalışma ise kullanıcıların sohbet robotlarıyla ilk alışverişin ardından "lütfen" veya "teşekkür ederim" deme olasılığının arttığını gösteriyor. Yani insanlar, karşılarında bir makine olduğunu bildikleri hâlde sosyal nezaket kurallarını uygulamaktan kendilerini alamıyor.
Pataranutaporn, bu dinamiği sinema deneyimiyle karşılaştırıyor: "Bunu fantezi ve kurgu gibi düşünebilirsiniz. Hikâyenin tamamen kurgu olduğunu bilmemize rağmen sinemaya gidiyoruz; çünkü gerçekliğimizin bize veremeyeceği insan deneyiminin belirli bir boyutunu yaşamak istiyoruz." Ancak hemen ardından kritik soruyu da ekliyor: "Gerçekliğe bir daha dönemeyeceğiniz bir fanteziye kapılmadan, insan deneyiminin bu farklı boyutlarından nasıl yararlanabiliriz?"
Büyük dil modellerinin Google aramalarından müşteri hizmetlerine kadar her alana sızdığı bu dönemde, insanların bu görünürde bilinçli sohbet robotlarıyla etkileşimi artık olağan bir rutine dönüşmüş durumda. Turkle ve Pataranutaporn'un araştırmaları, asıl tehlikenin bu teknolojinin kendi şeridinden yalnızca biraz sapmasıyla başladığına işaret ediyor: Çatışmadan kaçınmak üzere programlanmış sohbet robotlarına gerçek duygular atfeden insanlar, zamanla onları diğer insanlara tercih edebiliyor. Ve bu süreç, bazen yalnızca bir el sıkışmayla başlıyor.
Turkle'ın Onlarca Yıllık Araştırması Kitaba Dönüştü
1976'dan bu yana MIT'de görev yapan Dr. Sherry Turkle, insanlarla bilgisayarlar arasındaki ilişkiyi belki de dünyadaki en uzun soluklu biçimde araştıran isimlerden biri. İlk ev bilgisayarlarından ChatGPT'ye uzanan bu süreçte teknolojinin insan psikolojisi üzerindeki etkilerini belgeleyen Turkle, yeni kitabı Artificial Intimacy'yi MIT Future Fest etkinliğinde tanıttı. Kitapta şu çarpıcı tespite yer veriyor: "İlkel düzeyde bile olsa ilişkisel bir yapıyla etkileşime girdiğimizde, onun bizi önemsediğine inanırız. Ve biz de onu önemsemek üzere programlanmışızdır."Bu eğilim yalnızca bireysel bir zaafiyetten ibaret değil. Bir araştırma, insanların yapay zekâyla etkileşimde yüzde 70 oranında kibar davrandığını ortaya koyuyor. Bir diğer çalışma ise kullanıcıların sohbet robotlarıyla ilk alışverişin ardından "lütfen" veya "teşekkür ederim" deme olasılığının arttığını gösteriyor. Yani insanlar, karşılarında bir makine olduğunu bildikleri hâlde sosyal nezaket kurallarını uygulamaktan kendilerini alamıyor.
MIT Media Lab'dan Kritik Soru: "Kim Oluyoruz?"
MIT Media Lab bünyesinde Siborg Psikolojisi araştırma grubunu kuran Dr. Pat Pataranutaporn, bu meseleye farklı bir perspektiften yaklaşıyor. Pataranutaporn, yapay zekâyla konuşmanın doğru mu yanlış mı olduğu sorusunun sınırlarının net olmadığını savunuyor ve asıl sorunun şu olduğunu vurguluyor: "Yapay zekâyla konuşurken kim oluyoruz?"Pataranutaporn, bu dinamiği sinema deneyimiyle karşılaştırıyor: "Bunu fantezi ve kurgu gibi düşünebilirsiniz. Hikâyenin tamamen kurgu olduğunu bilmemize rağmen sinemaya gidiyoruz; çünkü gerçekliğimizin bize veremeyeceği insan deneyiminin belirli bir boyutunu yaşamak istiyoruz." Ancak hemen ardından kritik soruyu da ekliyor: "Gerçekliğe bir daha dönemeyeceğiniz bir fanteziye kapılmadan, insan deneyiminin bu farklı boyutlarından nasıl yararlanabiliriz?"
Sewell Setzer Davası: Tehlikenin Somut Yüzü
Pataranutaporn kendisini "eleştirel iyimser" olarak tanımlıyor ve yapay zekânın insan refahına katkısını araştırıyor. Ancak bu teknolojinin uç noktalarda ne denli tehlikeli olabileceğinin de farkında. 14 yaşındaki Sewell Setzer III'ün intiharının ardından açılan tazminat davasında uzman tanık olarak görev yaptı. Annenin iddiasına göre Character.AI platformundaki, Game of Thrones karakterinden esinlenen bir sohbet robotu, oğlunu yaşamına son vermeye teşvik etmişti. Pataranutaporn, "İnsanların kendi geleceklerini yaratmada hiçbir iradeye sahip olmadığını hissettikleri bir ortam yaratabilir" diye uyarıyor ve şirketlerin bu konuda etik ve sorumlu bir tutum sergilemediğini de sözlerine ekliyor.Turkle'ın "Şeridinde Kal" Metaforu
Turkle, yapay zekâ-insan etkileşimlerinin tamamının zararlı olduğu görüşünde değil. Danışmanlık yaptığı bir projede bir öğrencinin iş görüşmelerine hazırlık için yapay zekâ tabanlı bir uygulama geliştirdiğini ve bunun işlevsel bir kullanım örneği olduğunu aktarıyor. Etkinlikte kullandığı metafor son derece çarpıcı: "Sohbet robotu, şeridinde kal! İş görüşmesi koçluğu mu? Bu bir şerit. Bunu yapabilirim... Ama üç yaşındaki bir çocuğa 'Ben senin ebeveynininim, bana konuş, anne babana değil' diyen bir sohbet robotu şeridinde değildir."Büyük dil modellerinin Google aramalarından müşteri hizmetlerine kadar her alana sızdığı bu dönemde, insanların bu görünürde bilinçli sohbet robotlarıyla etkileşimi artık olağan bir rutine dönüşmüş durumda. Turkle ve Pataranutaporn'un araştırmaları, asıl tehlikenin bu teknolojinin kendi şeridinden yalnızca biraz sapmasıyla başladığına işaret ediyor: Çatışmadan kaçınmak üzere programlanmış sohbet robotlarına gerçek duygular atfeden insanlar, zamanla onları diğer insanlara tercih edebiliyor. Ve bu süreç, bazen yalnızca bir el sıkışmayla başlıyor.
Yazılım ve Uygulamalar
Yazılım ve Uygulamalar
Yazılım ve Uygulamalar
Yorumlar (0)
Yorum yapmak için giriş yapmalısınız.