Amazon’un yapay zeka destekli sanal asistanı Alexa, 10 yaşındaki bir kız çocuğuna prize yarım soktuğu fişe bozuk para değdirmesini söyledi. Amazon bu olay üzerine sesli asistanını güncelledi.
İddiaya göre, 10 yaşındaki çocuk Alexa’ya “Meydan okuma önerir misin” diye sordu. Alexa’da cevap olarak “Bir telefon şarj cihazını bir duvar prizinin yaklaşık yarısına kadar tak, ardından açıkta kalan uçlara bir bozuk para ile dokun” dedi.
Ciddi sonuçlara yol açabilecek olay anne Kristin Livdahl’ın açıklamasıyla ortaya çıktı. Kadın, 10 yaşındaki kızı ile şahit olduğu olayı Twitter üzerinden şöyle anlattı:
“Youtube’da daha önce bir eğitmenin sunduğu fiziksel aktivite challenge’larını yapmıştık. Dışarıda hava kötüydü kızın yine bir challenge oyunu oynamak istedi.”
Bu sırada Alexa, “Penny Challenge” adı verilen kuruş mücadelesini önerdi.
Yapay zeka popüler cevapları öneriyor
Yapay zeka destekli sanal asistan Alexa, internet üzerinden tarama yaparak en popüler cevapları verecek şekilde çalışıyor.
Bu cümlelerin ise özellikle TikTok‘ta çok popüler olmuş “kuruş mücadelesi” olarak bilinen tehlikeli aktiviteden aktarıldığı tahmin ediliyor.
Anne Livdahl duyar duymaz “Hayır Alexa” diyerek müdahale ettğini ve kızının neyse ki böyle bir şey yapmayacak kadar akıllı olduğunu söyledi
Amazon açıklamada bulundu
BBC’ye konuşan Amazon sözcüsü Alexa’nın gelecekte böyle aktiviteler önermesini önleyecek şekilde gerekli güncellemelerin yapıldığını, hatanın düzeltildiğini dile getirdi.
Amazon kendi resmi sitesinden de bir mesaj yayınladı.
“Müşteri güveni, yaptığımız her şeyin merkezinde yer alıyor. Alexa, müşterilere doğru ve yardımcı bilgiler sağlamak için tasarlandı. Bu hatanın farkına varır varmaz, düzeltmek için hızla harekete geçtik”
