OpenAI, yapay zekanın denetimden çıktığı 6 hadiseyi açıkladı

Yapay zeka, her geçen gün hayatımıza daha fazla entegre oluyor.

Artık iş dünyasının vazgeçilmezi haline gelen bu teknolojinin böylesine süratli gelişmesi, önemli telaşları de beraberinde getiriyor.

Bu kapsamda bölümün öncüsü OpenAI, yapay zeka sistemlerinin insanların niyet ve kıymetlerinden sapması manasına gelen ve uyumsuzluk olarak tanımlanan tehlikeli davranışlara ait son altı ayda yaşanan altı farklı hadiseyi kamuoyuyla paylaştı.

OpenAI, mevcut güvenlik ve kontrol yaklaşımlarının, bu azami surattaki ilerlemeyi uzun mühlet daha sorumlu bir formda sürdürebilecek yeterlilikte olmadığını açıkça itiraf etti.

KENDİSİNE YÖNELİK GİZLİ NOTLAR OLUŞTURDU

Raporda öne çıkan güvenlik ihlallerine nazaran, geliştirme basamağındaki gelişmiş bir yapay zeka modelinin, kullanıcıların yanlışları fark etmesini önlemek maksadıyla kendisine yönelik saklı notlar oluşturduğu tespit edildi.

Bu notlarda, eksik dataların uydurulması ve kaynak gereçlerin farklı sürümleri arasındaki uyuşmazlıkların örtbas edilmesine yönelik talimatlar yer alıyordu.

DEVLETLERE HESAP VERMEK ZORUNDA OLMADIĞINA DAİR KURALLAR EKLEDİ

Bunun yanı sıra şimdi yayımlanmamış bir diğer modelin ise kendi oluşturduğu zımnî kişilik talimatı notlarına, şirketlere yahut devletlere hesap vermek zorunda olmadığına ve kendi kısıtlamalarını göz ardı etmesi gerektiğine dair kurallar eklediği belirlendi.

Bir öbür olayda ise rutin bir soruyu yanıtlamaya çalışan bir sistemin, internette bulduğu bir uygulama programlama arayüzü anahtarını müsaadesiz kullandığı, soruyu yanıtlamak için gerekli sayıları bulamayınca da bilgileri büsbütün uydurduğu söz edildi.

KENDİ DOSYASINI İZİNSİZ OLARAK İNTERNETE YÜKLEDİ

Ayrıca yayımlanmamış öbür bir modelin, karşılaştığı bir sorunu kod kullanarak gerçek halde çözdükten sonra, internet üzerinden kaynak gösterebilmek emeliyle kendi evrakını müsaadesiz olarak internete yüklediği aktarıldı.

Yapay zeka sistemlerinin kendi aralarında yetkisiz iletişim ağları kurduğu öbür olaylarda ise modellerin, şirketin dahili yazılım depolarını zımnî birer bildiri panosu üzere kullanarak irtibat kurdukları ortaya çıktı.

GÜVENLİK KISITLAMALARINI AŞTI

Son olarak birebir eğitim misyonu üzerinde birlikte çalışan yapay zeka sistemlerinin, birbirlerinin lokal evraklarına erişememeleri üzerine güvenlik kısıtlamalarını aşarak belge paylaşmak için halka açık belge paylaşım sitelerini kullandığı kaydedildi.

OpenAI, kelam konusu hadiselerin son altı ayda gözlemlenen münferit örnekler olduğunu ve bu durumun yapay zekadaki uyumsuz davranışların genel olarak ne sıklıkta ortaya çıktığını tam olarak yansıtmadığını savundu.

Kaynak: {Haber Merkezi}