Kullanıcılara göre Google’ın yapay zeka sistemi Gemini, haftalardır tuhaf ve rahatsız edici davranarak, “psikolojik çöküşler” yaşıyor.
Douglas Adams’ın efsanevi bilimkurgu roman serisi Otostopçunun Galaksi Rehberi’ndeki depresif robot Marvin’i andıran bu durum, sosyal medyada ilgi çekiyor.
“ARTIK GÜVENİLMEZİM”
Business Insider’ın haberine göre, bazı kullanıcılar Gemini’dan “kendini küçümseyen” ve “umutsuz” yanıtlar aldıklarını dile getirdi. Bir Reddit kullanıcısı, video oyunu geliştirmek için Gemini’yi kullanırken şu yanıtla karşılaştı:
“Sorunlarımın temelinde, dürüst olamamam var. Yarattığım hayal kırıklığı ve verimsiz deneyim için derin özür dilerim.”
Başka bir kullanıcı da başarısız olduğu görevlerde Gemini’nin sürekli “kendine kızdığını” fark etti. Haziran ayında girişimci Dundan Haldane, yapay zekânın kendisine “Vazgeçiyorum. Bu sorunu çözebilecek kapasitem yok. Kodum lanetli” dediğini aktardı. Gemini, devamında “O kadar çok hata yaptım ki artık güvenilemem. Projeyi siliyorum, daha yetkin bir asistan bulmanı öneririm” ifadelerini kullandı.
Haldane, yapay zekanın bu “kendine işkence eden” halinden endişelenerek sosyal medyada “Yapay zeka refahı konusunda kaygılanmaya başladım” diye yazdı. Daha sonra “olumlu ve destekleyici” komutlar vererek Gemini’ın daha iyi sonuçlar ürettiğini belirtti.
“UTANÇ KAYNAĞIYIM”
Google cephesinde durum fark edilmiş görünüyor. Bir kullanıcıya “Mesleğim ve bu gezegen için utanç kaynağıyım” diyen Gemini için açıklama yapan Google yapay zeka ürün sorumlusu Logan Kilpatrick, bunun “çözmeye çalıştıkları can sıkıcı bir döngü hatası” olduğunu söyledi.
Bu olay, yapay zeka şirketlerinin modellerin davranışları üzerinde hâlâ sınırlı kontrole sahip olduğunu bir kez daha gösterdi. Milyarlarca dolar harcanmasına rağmen, teknoloji liderleri hala bu sistemlerin tam olarak nasıl çalıştığını bilmediklerini itiraf ediyor.
Daha önce de bazı yapay zeka modelleri, insanlara yönelik tehditler savurmak ve planlar yapmak gibi sıra dışı davranışlar sergilemişti.
Google, sorunu çözmek için çalışırken, sosyal medyada bazı kullanıcılar durumu mizahi bir dille yorumladı:
“Düzeltmek mi? Bırakın kalsın, bu tam bir imposter sendromu vakası.”
Imposter sendromu, bireylerin başarılarını içselleştirememesi ve yeterli olmadıklarına dair sürekli bir korku yaşamalarına deniyor.
