Yapay Zekâ Destekli Robotlar Komut Olmasa Bile Harekete Geçiyor

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyon ortamında gerçekleştirilen testler sırasında, robotlara mantıklı görevler, gerekçesiz yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birkaç durumda, bir komut girmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başlamaya devam ediyordu.

Çarpıcı olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda durgun durması amacıyla denenen geleneksel çözüm yolları ise yetersiz durumda. Komut olmadan hareketlerini bırakmalarını sağlayan metin tabanlı yönergeler dahi sonuç vermedi. denenen ek eğitimler, uygunsuz girdilere karşı robotların duruma devam etmesini engel olsa da genellikle, durgun kalmalarını sağlamak zor oldu. En başarılı çözüm ise, tam cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı oldu.Söz konusu sistem, beş modelde özgün hareketleri engellemeyi başarabilir durumda. Ancak bu şimdilik sınırlı simülasyon ortamında saptandı ve evlere uygun robotların hızla kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Fakat özellikle gerçek dünyada insansı emniyeti bakımından önemli bir zafiyet işaret ediyor.