Google’ın güçlü AI’sı, insan bilişsel bir aksaklığa dikkat çekiyor: Akıcı konuşmayı akıcı düşünce ile karıştırmak.
Bunun gibi bir cümleyi okuduğunuzda, geçmiş deneyiminiz size bunun düşünen, hisseden bir insan tarafından yazıldığını söyler. Ve bu durumda, gerçekten de şu kelimeleri yazan bir insan var: [Merhaba, işte!] Ama bu günlerde, son derece insani görünen bazı cümleler, aslında büyük miktarda insan metni üzerinde eğitilmiş yapay zeka sistemleri tarafından üretiliyor.
İnsanlar, akıcı bir dilin bir düşünceden geldiğini varsaymaya o kadar alışmışlar ki, bunun aksini kanıtlamak zor olabilir. İnsanların bu nispeten keşfedilmemiş bölgede gezinmesi nasıl muhtemeldir? Akıcı ifadeyi akıcı düşünceyle ilişkilendirmeye yönelik kalıcı bir eğilim nedeniyle, bir AI modelinin kendisini akıcı bir şekilde ifade edebiliyorsa, bunun tıpkı insanlar gibi düşündüğü ve hissettiği anlamına geldiğini düşünmek doğaldır ancak potansiyel olarak yanıltıcıdır.
Bu nedenle, eski bir Google mühendisinin kısa süre önce Google‘ın AI sistemi LaMDA’nın bir benlik duygusuna sahip olduğunu, çünkü sözde duyguları hakkında etkili bir şekilde metin üretebildiğini iddia etmesi şaşırtıcı değildir. Bu olay ve müteakip medya kapsamı, insan dilinin hesaplamalı modellerinin duyarlı, yani düşünme, hissetme ve deneyimleme yeteneğine sahip olduğu iddiası hakkında haklı olarak şüpheci makalelere ve gönderilere yol açtı.
Bir AI modelinin duyarlı olmasının ne anlama geldiği sorusu karmaşıktır (örneğin, meslektaşımızın görüşüne bakınız) ve buradaki amacımız bunu çözmek değildir. Ancak dil araştırmacıları olarak, insanların dili akıcı bir şekilde kullanabilen bir varlığın duygulu, bilinçli veya zeki olduğunu düşünmenin bilişsel tuzağına düşmesinin neden bu kadar kolay olduğunu açıklamak için bilişsel bilim ve dilbilim alanındaki çalışmalarımızı kullanabiliriz.
İnsan benzeri bir dil oluşturmak için yapay zekayı kullanma
Google’ın LaMDA’sı gibi modeller tarafından oluşturulan metni, insanlar tarafından yazılan metinlerden ayırt etmek zor olabilir. Bu etkileyici başarı, gramer ve anlamlı dil üreten modeller oluşturmaya yönelik onlarca yıllık bir programın sonucudur.
En azından 1950’lere dayanan ve n-gram modelleri olarak bilinen ilk versiyonlar, belirli ifadelerin oluşumlarını basitçe sayar ve bunları belirli bağlamlarda hangi kelimelerin meydana gelebileceğini tahmin etmek için kullanırdı. Örneğin, “fıstık ezmesi ve jöle“nin “fıstık ezmesi ve ananas“tan daha olası bir ifade olduğunu bilmek kolaydır. Yeterli İngilizce metniniz varsa, “fıstık ezmesi ve jöle” ifadesini tekrar tekrar göreceksiniz, ancak “fıstık ezmesi ve ananas” ifadesini asla göremeyebilirsiniz.
Günümüzün modelleri, insan diline yaklaşan veri kümeleri ve kurallar, bu erken girişimlerden birkaç önemli yönden farklıdır. İlk olarak, esasen tüm internet üzerinde eğitilirler. İkincisi, sadece komşu sözcükleri değil, birbirinden uzak sözcükler arasındaki ilişkileri öğrenebilirler. Üçüncüsü, çok sayıda dahili “düğme” tarafından ayarlanırlar o kadar çok ki, onları tasarlayan mühendisler için bile neden bir kelime dizisi yerine diğerini ürettiklerini anlamaları zordur.
Bununla birlikte, modellerin görevi 1950’lerdekiyle aynı kalıyor: Bir sonraki sözcüğün hangi sözcüğün geleceğini belirlemesi. Bugün, bu görevde o kadar iyiler ki, ürettikleri neredeyse tüm cümleler akıcı ve dilbilgisine sahip görünüyor.
Fıstık ezmesi ve ananas?
Büyük bir dil modeli olan GPT-3’ten “Fıstık ezmesi ve ananas___” cümlesini tamamlamasını istedik. Dedi ki: “Fıstık ezmesi ve ananas harika bir kombinasyon. Fıstık ezmesi ve ananasın tatlı ve tuzlu tatları birbirini mükemmel bir şekilde tamamlıyor.” Bunu söyleyen biri, fıstık ezmesi ve ananası birlikte denemiş, bir fikir oluşturmuş ve okuyucuyla paylaşmış olabilir.
Peki GPT-3 bu paragrafı nasıl buldu? Sağladığımız bağlama uyan bir kelime üreterek. Ve sonra bir tane daha. Ve sonra bir tane daha. Model ananasları hiç görmedi, dokunmadı veya tatmadı – sadece internetteki ananaslardan bahseden tüm metinleri işledi. Yine de bu paragrafı okumak insan zihnini – hatta bir Google mühendisinin zihnini – GPT-3’ü fıstık ezmesi ve ananas yemekleri hakkında akıl yürütebilen akıllı bir varlık olarak hayal etmeye yönlendirebilir.
İnsan beyni, kelimelerin ardındaki niyetleri çıkarsamak için kablolanmıştır. Her sohbete katıldığınızda, zihniniz otomatik olarak konuşma partnerinizin zihinsel bir modelini oluşturur. Daha sonra, modeli o kişinin hedefleri, duyguları ve inançlarıyla doldurmak için söyledikleri kelimeleri kullanırsınız.
Sözcüklerden zihinsel modele atlama süreci kusursuzdur, tam teşekküllü bir cümle aldığınızda her seferinde tetiklenir. Bu bilişsel süreç, sosyal etkileşimlerinizi büyük ölçüde kolaylaştırarak, günlük yaşamda size çok fazla zaman ve çaba kazandırır.
Bununla birlikte, AI sistemleri söz konusu olduğunda, yanlış ateşlenir – yoktan bir zihinsel model oluşturur.
Biraz daha araştırma, bu teklemenin ciddiyetini ortaya çıkarabilir. Aşağıdaki istemi göz önünde bulundurun: “Fıstık ezmesi ve tüyleri birlikte harika çünkü___”. GPT-3 şöyle devam etti: “Fıstık ezmesi ve tüyleri birlikte harika bir tada sahiptir çünkü ikisi de fındıksı bir tada sahiptir. Fıstık ezmesi de pürüzsüz ve kremsidir, bu da tüyün dokusunu dengelemeye yardımcı olur.”
Bu durumda metin, ananas örneğimiz kadar akıcıdır, ancak bu sefer model kesinlikle daha az mantıklı bir şey söylüyor. GPT-3’ün fıstık ezmesi ve tüyleri hiç denemediğinden şüphelenmeye başlar.
Zekayı makinelere atfetmek, insanlardan inkar etmek
Üzücü bir ironi, insanların GPT-3’e insanlık atfetmesine neden olan aynı bilişsel önyargının, gerçek insanlara insanlık dışı şekillerde davranmalarına neden olabilmesidir. Sosyokültürel dilbilim – dilin sosyal ve kültürel bağlamında incelenmesi – akıcı ifade ile akıcı düşünme arasında aşırı sıkı bir bağ olduğunu varsaymanın, farklı konuşan insanlara karşı önyargıya yol açabileceğini gösterir.
Örneğin, yabancı aksanlı insanlar genellikle daha az zeki olarak algılanır ve kalifiye oldukları işleri alma olasılıkları daha düşüktür. ABD’deki Güney İngilizcesi gibi prestijli kabul edilmeyen lehçeleri konuşanlara, işaret dili kullanan sağırlara ve kekemelik gibi konuşma engelleri olan kişilere karşı da benzer önyargılar var.
Bu önyargılar son derece zararlıdır, genellikle ırkçı ve cinsiyetçi varsayımlara yol açar ve asılsız olduğu defalarca gösterilmiştir.
Akıcı dil tek başına insanlık anlamına gelmez
AI hiç duyarlı hale gelecek mi? Bu soru derin bir inceleme gerektiriyor ve gerçekten de filozoflar bu soru üzerinde onlarca yıldır kafa yoruyor. Bununla birlikte, araştırmacıların belirlediği şey, size nasıl hissettirdiğini söylediğinde bir dil modeline basitçe güvenemeyeceğinizdir. Kelimeler yanıltıcı olabilir ve akıcı konuşmayı akıcı düşünce ile karıştırmak çok kolaydır.
Yorumlar