Yıllarca süren geliştirmeden sonra, Yapay zekâ (AI) artık otomobilleri halka açık yollarda sürüyor, sorgulanan beşerler için değerlendirmeler yapıyor ve ödüllü sanat yapıtları üretiyor.
TRT’nin haberine nazaran bu alanda uzun müddettir devam eden bir soru, üstün zeki bir yapay zekânın berbatlığı yayıp, insanlığı ortadan kaldırıp kaldıramayacağı.
Oxford Üniversitesi ve Google Deepmind’den araştırmacılar, yeni araştırmalarda bunun “muhtemel” olduğu sonucuna vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi açıkladığı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, birebir vakitte muhtemel” tabirlerini kullandı.
Ödül ceza sisteminden yola çıkıldı
Makalede yapay zekânın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı.
Bu yaklaşım yapay zekâya makul bir emel doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Pekiştirmeli öğrenmede “etken” ismi verilen makine, karşılaştığı durumlara reaksiyon veriyor ve gerçek reaksiyon verdiğinde bir ödül puanı alıyor.
Küçük çocukların ödül/ceza formülüyle toplumsal marifetler edinme sürecini andıran bu metotta yapay zekâ, aldığı ödül puanını hep azamiye çıkarmak için çalışıyor.
Hile ile tehditleri ortadan kaldırabilir
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekâya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu varsayabilir. Hiçbir müşahede bunu yalanlayamaz” sözleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekânın verilen gayeye ulaşmadan mükafatı elde edebilmek için yeni formüller geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zekâ, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir.
Bunun sonucunda insanlara ziyan vermesinin de olası olduğu belirtildi.