Yapay Zeka Halüsinasyonları Müşterileri Zorluyor

New York'ta görev yapan garson Madison, her masaya alerjileri olup olmadığını sorarak servise başlıyor. Son dönemde bu rutin soru, yapay zeka kaynaklı tehlikeli bir güven sorununa dönüştü. Kabuklu deniz ürünlerine alerjisi olduğunu söyleyen bazı misafirlerin, uyarılara rağmen kabuklu deniz ürünlerinden yapılan et suyuyla hazırlanan balık yemeklerini sipariş ettiğini anlatan Madison, misafirleri uyardığında "ChatGPT'de böyle yazmıyor" yanıtıyla karşılaştığını söylüyor. Üretken yapay zeka araçlarının kitlesel olarak benimsenmesi, "müşteri her zaman haklıdır" sözünü yeniden yazarken, hizmet sektörü çalışanları müşterilerin yapay zekanın uydurduğu bilgileri gerçek kabul etmesiyle baş etmek zorunda kalıyor.
Madison, kimliğini korumak için soyadının gizli tutulmasını istedi. Yakın zamana kadar Michelin tavsiyeli bir İtalyan restoranında çalışan Madison, "Kabuklu deniz ürünlerine alerjiniz var ve ChatGPT bunun içinde kabuklu deniz ürünü olmadığını söylüyor, biz de size evet var diyoruz!" sözleriyle yaşadığı çelişkiyi özetliyor. Sorun yalnızca alerjilerle sınırlı değil. Restoran ve perakende çalışanları için uzun süredir baş ağrısı olan bu anlayış, şimdi yapay zeka halüsinasyonlarıyla birleşerek daha da karmaşık hale geliyor. Meta'nın yeni yapay zeka ajanı Muse'un piyasaya sürülmesinin de bu sorunu ve çalışanların başa çıkmak zorunda kaldığı talepleri artırması bekleniyor.

Alerji Uyarılarına Rağmen ChatGPT'ye Güvenen Müşteriler​

Madison, alerji konusunda yaşadığı yakın temasları örnek veriyor. Misafirlerin kabuklu deniz ürünleri alerjisi olduğunu söyleyip ardından bu alerjeni içeren bir yemeği sorgulamadan sipariş ettiğini belirtiyor. Yemeğin et suyunun kabuklu deniz ürünlerinden yapıldığını söylediğinde ise bazı misafirlerin ChatGPT'nin aksini söylediğini iddia ederek itiraz ettiğini aktarıyor. Madison'a göre misafirler doğrudan kendisiyle konuşmak yerine ChatGPT ile konuşmayı tercih ediyor.
Bu durum, çalışanların uyarılarının göz ardı edilmesi anlamına geliyor. Madison, misafirlerin alerjen içeren bir yemek konusunda bilgilendirildiklerinde bile yapay zekanın sözünü daha güvenilir bulabildiğini ifade ediyor. Benzer şikayetler Reddit ve X platformlarında da dile getiriliyor. Sinema çalışanları, baristalar ve Apple Store çalışanları da dahil olmak üzere farklı alanlarda hizmet veren çalışanlar, müşterilerin var olmayan ürünleri veya özellikleri talep ettiğini bildiriyor.

Şarap Listesinde Olmayan Şişeleri İsteyen Misafirler​

Madison, çalıştığı restoranda üretken yapay zekaya olan bağımlılığın arttığını gözlemlediğini söylüyor. Misafirlere "Size sommelier'i çağırayım" teklifini sunduğunda, "Hayır, ChatGPT'ye sorarım" yanıtını alma sıklığının arttığını belirtiyor. Hatta bazı sommelier'lerin masadan gönderildiğini, çünkü misafirin ChatGPT'yi tercih ettiğini anlatıyor.
Müşterilerin restoranda bulunmayan, hatta bazı durumlarda hiç var olmayan şarap şişelerini talep ettiği oluyor. Madison'a göre bu halüsinasyonlar, insanların şarap konusundaki mevcut kaygılarını daha da kötüleştiriyor. Bazı misafirlerin sommelier'leri daha fazla para harcatmaya çalışan kişiler olarak gördüğünü veya sommelier'in kendisini yetersiz bulacağından endişe ettiğini söylüyor. Bu nedenle Madison ve meslektaşları, müşteriye yapay zeka sohbet robotunun tamamen uydurduğu bir şarap markası söylediğini doğrudan söylemek yerine, durumu yumuşatmak için "Çok özel bir şarap listemiz var, belki size Fransız şarabı gösteriyordur, biz Fransız şarabı servis etmiyoruz" gibi ifadeler kullanıyor.

Haritada Olmayan Kamp Alanları ve Nehir Turları​

Yapay zeka halüsinasyonlarının etkileri restoranların ötesine geçiyor. Mountain West bölgesinde federal arazilerde nehir korucusu olarak görev yapan Jason, parkı ziyaret edenlerde anlamsız yapay zeka tarafından oluşturulmuş seyahat planlarıyla gelişlerde artış fark ettiğini söylüyor. Federal çalışan olduğu için takma adla anılmak isteyen Jason, meslektaşlarıyla birlikte yapay zekanın halüsinasyon gördüğü kamp alanlarını veya coğrafi sıraya aykırı şekilde planlanmış programları ziyaretçilere açıkladıklarını anlatıyor.
Jason, bazı planlarda grubun bazı günler teknelerini akıntıya karşı kürek çekmek zorunda kalacağını, diğer günlerde ise nehir akıntısıyla süzüleceğini, bunun mümkün olmadığını belirtiyor. En çarpıcı kısmın ise bir korucu haritayı göstererek bunu açıklarken bile bazı grupların şüpheci kalması olduğunu söylüyor. Jason'a göre belirli bir yapay zeka kullanıcısı tipi, koruculara, haritalara ve basılı rehber kitaplara güvenmek yerine ChatGPT'ye güvenmeye eğilimli.

Çocuk Gelişiminde Yapay Zekaya Danışan Aileler​

New York'ta okul sonrası program öğretmeni olan Casey de benzer bir eğilimi gözlemliyor. Takma adla anılmak isteyen Casey, birçok öğrencinin ebeveynlerinin, bakıcılarının ve diğer bakım verenlerin artık çocuk gelişimiyle ilgili soruları için ChatGPT veya Claude'a başvurduğunu söylüyor. Bir ailenin ChatGPT'ye danışarak çocukları için bir uyku rutini ve uyku programı oluşturduğunu, ancak çocuğun yeterince uyumadığını anlatıyor.
Casey, programdaki davranışlarına dayanarak çocuğun gecede iki ila üç saat daha uykuya ihtiyaç duyduğunu tahmin ettiğini ve bunu ailesine söylediğini belirtiyor. Ancak ebeveynlerin ChatGPT'nin programlarının iyi olduğunu söylediğinde ısrar ettiğini aktarıyor. Casey'e göre bazı ebeveynler artık üretken yapay zeka araçlarını bilgileri çocuk bakımı profesyonellerininkini aşan uzmanlar olarak görüyor. "Kararını vermiş biriyle konuşmak gerçekten zor olabiliyor" diyen Casey, bu kişilerin dış bir varlığa paha biçilmez olarak güvendiğini ifade ediyor. Casey, çocukların yapay zeka ile oluşturulmuş boyama sayfalarıyla gelmesi gibi daha sıradan kullanımları da fark ettiğini ekliyor.

Rezervasyon İçin Arayan Yapay Zeka Ajanları​

15 yıldır yiyecek hizmet sektöründe çalışan Lauren Wilford da son dönemde misafirlerle etkileşimlerinde yapay zekanın sızdığını fark etti. Başlangıçta menünün fotoğrafını ChatGPT veya Claude'a yükleyip ne sipariş edileceği veya şarap eşleşmesi konusunda rehberlik istemekle başlayan durumun, artık aracının tamamen ortadan kalktığı bir noktaya geldiğini söylüyor. Son bir yıldır Providence, Rhode Island'da yöneticiliğini yaptığı restorana, kullanıcılar adına rezervasyon yaptırmaya çalışan ajanlardan çağrılar ve e-postalar geliyor.
Agentic yapay zekanın yükselişi bu etkileşimleri daha da kafa karıştırıcı hale getiriyor. Wilford, büyük bir etkinlik arifesinde normalde müdahil olmayan bir müşterinin birdenbire talepkar hale gelmesine şaşırdığını anlatıyor. Müşteri, Providence'daki restoranda kolayca bulunmayan kürsü ve görsel-işitsel ekipman için son dakika taleplerinde bulunmuş ve catering menüsünde son dakika değişiklikleri istemişti. Ancak Wilford, müşteriler ertesi gün geldiğinde bunların hiçbirinden bahsetmemelerine daha da şaşırdı. Kanıtlayamasa da Wilford, taleplerin şirketteki herhangi birinden gelmemiş olabileceğini, bir yapay zeka ajanının işi olabileceğinden şüphelendiğini söylüyor. Wilford, "İnsanların yapay zeka ajanlarını kullanma nedenlerine karşı anlayışlıyım" diyor, özellikle bürokratik ve idari görevler için. Ancak "İki insanın birbirini görüp birlikte bir şeyleri çözmesinin değerli olduğu her yerde, tüm bunları atlamaya çalışırsak neyin kaybolabileceğine karşı duyarlı olmadığımızı düşünüyorum" ifadesini kullanıyor.

Sıkça Sorulan Sorular​

Madison kimdir ve restoranda ne tür sorunlar yaşıyor?​

Madison, New York'ta yakın zamana kadar Michelin tavsiyeli bir İtalyan restoranında çalışan ve soyadının gizli tutulmasını isteyen bir garsondur. Kabuklu deniz ürünleri alerjisi olan misafirlerin, et suyu kabuklu deniz ürünlerinden yapılan yemekleri sipariş edip ChatGPT'nin içinde alerjen olmadığını söylediğini iddia ederek uyarılarını dikkate almadığını anlatıyor.

Müşteriler şarap konusunda neden ChatGPT'ye danışıyor?​

Madison'a göre bazı müşteriler sommelier teklifini reddedip ChatGPT'ye sormayı tercih ediyor ve hatta sommelier'leri masadan gönderiyor. Müşteriler restoranda bulunmayan veya hiç var olmayan şarapları talep edebiliyor. Madison, bunun bazı misafirlerin sommelier'lerin fazla harcama yaptırmaya çalıştığı veya kendilerini yetersiz bulacağı yönündeki kaygılarından kaynaklandığını belirtiyor.

Nehir korucusu Jason ne tür yapay zeka halüsinasyonlarıyla karşılaştı?​

Mountain West'te federal arazilerde görev yapan ve takma ad kullanan nehir korucusu Jason, ziyaretçilerin yapay zeka tarafından oluşturulmuş ve var olmayan kamp alanlarını içeren veya coğrafi sıraya aykırı planlanmış seyahat programlarıyla geldiğini söylüyor. Bazı programlarda grupların tekneleri akıntıya karşı kürek çekmesi gerekiyordu ki bu mümkün değildi.

Çocuk gelişimi konusunda aileler yapay zekayı nasıl kullanıyor?​

New York'ta okul sonrası program öğretmeni Casey'nin aktardığına göre bazı aileler çocuk gelişimi soruları için ChatGPT veya Claude'a danışıyor. Bir aile ChatGPT ile uyku rutini oluşturmuş ancak çocuk yeterince uyuyamamıştı. Casey çocuğun iki ila üç saat daha uykuya ihtiyacı olduğunu söylemesine rağmen aile ChatGPT'nin programının iyi olduğunu savundu.

Lauren Wilford'un restoranında yapay zeka ajanlarıyla ilgili ne yaşandı?​

Providence, Rhode Island'da restoran yöneticisi olan ve 15 yıldır sektörde çalışan Lauren Wilford, son bir yıldır kullanıcılar adına rezervasyon yapmaya çalışan ajanlardan çağrı ve e-posta aldıklarını söylüyor. Bir etkinlik öncesi kürsü ve görsel-işitsel ekipman gibi restoranda bulunmayan talepler gelmiş, ancak müşteriler geldiğinde bu taleplerden bahsetmemişti. Wilford taleplerin bir yapay zeka ajanından gelmiş olabileceğinden şüpheleniyor.