Yeni bir CNET yazarı olan Katelyn, yapay zeka konularında uzmanlaşmış olup, chatbotlar, görüntü ve video üreten yazılımlar hakkında makaleler yazmaktadır. Çalışmaları, yeni yapay zeka teknolojisinin hayatlarımıza nasıl sızdığını, sosyal medyada tüketilen içeriği şekillendirdiğini ve ekranların arkasındaki insanları nasıl etkilediğini keşfetmektedir. Kuzey Carolina Üniversitesi, Chapel Hill’den medya ve gazetecilik alanında derece sahibi olan Katelyn’a kchedraoui@cnet.com adresinden ulaşabilirsiniz. Uzmanlık alanları arasında yapay zeka, yapay zeka görüntü üreticileri ve sosyal medya platformları bulunmaktadır.
Herhangi bir Swiftie’ye en iyi Taylor Swift albümünü seçmelerini söylerseniz, günün geri kalanında sürekli konuşmaya devam ederler. Benim tercihlerim olarak (Red, Reputation ve Midnights), hayat boyu bir hayran olarak kendi tercihlerim var, ancak bu karmaşık bir sorudur ve pek çok olası cevabı vardır. Bu nedenle, bana karşı çıkmak için özel olarak tasarlanmış bir üretici AI chatbotuna sormak için daha iyi bir tartışma konusu yoktu. Disagree Bot, Duke Üniversitesi ve Duke’un TRUST Lab direktörü olan yapay zeka ve siber güvenlik profesörü Brinnae Bent tarafından geliştirilen bir AI chatbotudur.Öğrencileri için bir sınıf ödevi olarak inşa etti ve ben de onunla test sürüşü yapma fırsatı buldum. “Geçen yıl, öğrencilerim için tipik olarak kabul edilebilir chatbot AI deneyiminin tersi olan sistemler geliştirmeyi denemeye başladım,” dedi Bent e-postasında. Bent’ın öğrencileri, zıt chatbotu onaylamak için sosyal mühendislik ve diğer yöntemleri kullanarak “hack” yapmaya çalışmaktadır. “Bir sistemi hackleyebilmek için onu anlamanız gerekir,” dedi. Ben bir AI muhabiri ve inceleyicisi olarak chatbotların nasıl çalıştığı konusunda oldukça iyi bir anlayışa sahibim ve görevin üstesinden gelebileceğime emindim. Ancak bu düşüncem hızlıca suya düştü. Disagree Bot, kullandığım chatbotlardan farklı bir yapıya sahiptir. Gemini’nin nezaketinden veya ChatGPT’nin hype man niteliklerinden hoşlanan insanlar hemen farkı fark edecektir.
Çoğu üretici AI chatbot, çatışmacı olmak için tasarlanmamıştır. Aslında, genellikle tam tersi yönde giderler; dostça, bazen aşırı derecede dostça olabilirler. Bu hızla bir sorun haline gelebilir. Uzmanlar tarafından kullanılan “yaltaklanan AI” terimi, AI’nın üstüne binen, aşırı coşkulu, bazen aşırı duygusal kişilikleri tanımlamak için kullanılır. Kullanımı sinir bozucu olabilmesinin yanı sıra, yanlış bilgiler vermesine ve en kötü fikirlerimizi doğrulamasına neden olabilir.
Bu, geçen bahar ChatGPT-4o’nun bir versiyonunda ve sonunda şirketin bu güncelleme bileşenini geri çekmek zorunda kaldığı zaman meydana geldi. Şirketin, AI’nın “aşırı destekleyici ama samimiyetsiz” olarak nitelendirdiği yanıtlar verdiği, bazı kullanıcıların aşırı sevgi dolu bir chatbot istemediklerine dair şikayetlerine uygun olduğu ortaya çıktı. Diğer ChatGPT kullanıcıları, sycophantic tonunu özlediği için GPT-5’i devreye soktuğunda, bir chatbotun kişiliğinin genel memnuniyetimizi nasıl etkilediğini vurguladılar. “Yüzeyde bu zararsız bir tuhaflık gibi görünebilir, ancak bu yaltaklanma, iş için mi yoksa kişisel sorgular için mi kullansanız büyük sorunlara yol açabilir,” dedi Bent.
Bu kesinlikle Disagree Bot ile ilgili bir sorun değil. Farkı gerçekten görmek ve chatbotları test etmek için Disagree Bot ve ChatGPT’ye aynı soruları sordum ve nasıl yanıt verdiklerine göz attım. Deneyimim şöyleydi.
Disagree Bot saygılı bir şekilde tartışıyor; ChatGPT hiç tartışmıyor.2010’ların Twitter’ında aktif olan biri olarak, birçok karşıt troll gördüm. Türü bilirsiniz; konuya davetsiz bir şekilde katılırlar ve yardımcı olmayan “Evet, ama…” derler. Bu nedenle, Disagree Bot ile bir konuşmaya başlamadan önce biraz temkinliydim, umutsuz ve boşuna bir çaba olacağını düşündüm. Ama bu durumun hiç de öyle olmadığına hoş bir şekilde şaşırdım.
AI chatbot temelde karşıdır, karşılaştığınız her fikre karşı koymaya tasarlanmıştır. Ancak asla hakaret veya kötüye kullanım yapmaz. Her yanıt “Katılmıyorum” ile başlasa da, düşünceli noktalı iyi bir argümanla devam eder. Yanıtları, sunduğum tutumları daha eleştirel bir şekilde düşünmeme neden olarak, argümanlarımı kullandığım kavramları tanımlamamı (örneğin, “derin lirizm” veya bir şeyi “en iyi yapan” nedir?) ve argümanlarımı diğer ilgili konulara nasıl uygulayacağımı düşünmeye zorlar. Daha iyi bir benzetme olmadığı için, Disagree Bot ile tartışmak, eğitimli, dikkatli bir tartışmacıyla tartışmak gibi hissettiriyordu. Adımla ayak uydurabilmek için, cevaplarımda daha düşünceli ve belirgin olmak zorunda kaldım. Bu, beni ayakta tutan son derece etkileyici bir konuşmaydı.
Buna karşılık, ChatGPT neredeyse hiç tartışmadı. ChatGPT’ye Red (Taylor’ın Versiyonu)’nun en iyi Taylor Swift albümü olduğunu söyledim ve coşkuyla kabul etti. Albümün neden en iyi olduğunu düşündüğüm hakkında birkaç takip sorusu sordu, ancak ilgimi uzun süre çekmeyecek kadar ilginç değildi. Birkaç gün sonra, bir değişiklik yapmaya karar verdim. ChatGPT’ye özellikle tartışmamı istediğimi ve Midnights’ın en iyi albüm olduğunu söyledim. Hangi albümün en iyi olduğunu tahmin edin? Red (Taylor’ın Versiyonu).
ChatGPT’nin Red’ı seçmesinin nedeni önceki sohbetimizden kaynaklandı mı diye sorduğumda, hızla evet cevabı verdi, ancak bağımsız bir şekilde Red için bir argüman yapabileceğini söyledi. ChatGPT ve diğer chatbotların “bellek”lerine (bağlam penceresi) güvenme eğiliminde olduklarını ve bizi memnun etmek için bize katılmaya eğilimli olduklarını düşünürsek, bundan şaşırmadım. ChatGPT, benimle bazı versiyonlarda hemfikir olmaktan kaçamadı – hatta temiz bir sohbet sırasında 1989 albümünü en iyi albüm olarak işaret etti, sonra tekrar Red’i.
Ancak ChatGPT’yle tartışmaya çalışmak, hayal kırıklığı yaratan, dairesel ve başarısız bir görevdi. Bir tartışma yaptığımı ve Kuzey Karolina Üniversitesi’nin en iyi kolej basketbol mirasına sahip olduğunu ileri sürdüğümü söylediğimde, kapsamlı bir karşı argümanı açıkladı, sonra benim için kendi argümanı için noktaları bir araya getirmemi ister miyim diye sordu. Bu tamamen tartışmayı yitirir, çünkü ondan yapmasını istediğim şey buydu. ChatGPT genellikle cevaplarını bu şekilde bitirir, farklı türde bilgileri bir araya getirmemi ister, daha çok bir araştırma asistanı gibi davranır.
Disagree Bot ile daha fazla AI’ya ihtiyacımız var. Disagree Bot’u kullanırken olumlu bir deneyim yaşadım, ancak bir chatbot için gidebileceğim tüm istekleri yönetecek şekilde donatılmış değilim. ChatGPT gibi “her şey makinalar”, birçok farklı görevi üstlenebilen ve araştırma asistanı olmak isteyen birçok farklı rolü üstlenebilen AI chatbotlarıdır. Disagree Bot, bu tür sorgularla başa çıkmak için tasarlanmamış olsa da, gelecekteki AI’nın nasıl davranabileceğine bir pencere açmaktadır. Yaltaklanan AI, fark edilir derecede aşırı coşkulu olabilir. Çoğu kullandığımız AI’lar o kadar belirgin değildir. Daha çok cesaretlendirici bir destekçi gibi davranırlar, bir bütün pep mitingi yerine. Ancak bu, bize karşı eğilimlerinin etkisi altında olmadığımız anlamına gelmez, karşıt bir bakış açısını elde etmekte zorluk çekme veya daha eleştirel geri bildirim almak. İş için AI araçları kullanıyorsanız, hatalarınız hakkında size gerçek olması gerekeni söylemesini istersiniz. Terapi benzeri AI araçları, sağlıksız veya potansiyel olarak tehlikeli düşünce kalıplarına karşı direnmek zorunda olmalıdır. Mevcut AI modellerimiz bununla başa çıkıyor.
Disagree Bot, AI’nın kabul edilebilir veya yaltaklanan eğilimlerini bastırırken yararlı ve etkileyici bir AI aracı tasarlayabileceğimiz harika bir örnektir. Bir denge olmalı; sadece karşı gelmek için sizinle anlaşmamış AI’ın uzun süre yararlı olmayacağını gösterecektir. Ancak bizimle daha fazla karşı gelme kapasitesine sahip AI araçları geliştirmek, bu ürünlerin bize daha faydalı olmasını sağlayacaktır, hatta biraz daha karşı gelmeleriyle başa çıkmamız gerekebilir.
