Yapay zekanın yanlış ellere geçmesi varoluşsal tehlike yaratabilir

İskoçya'daki Dumfries House'da yapay zekâ ve gelecekteki kullanımına dair bir tepe düzenlendi.

Zirveye, teknolojinin toplum faydasına nasıl kullanılabileceğini kıymetlendirmek üzere aralarında Nvidia, OpenAI ve Anthropic üzere dev şirketlerin yöneticilerinin yanı sıra İngiltere Kralı III. Charles, siyasi figürler ve din adamları katıldı.

YAPAY ZEKANIN KONTROL ALTINDA TUTULMASI

Toplantıda, süratle gelişen yapay zekanın denetim altında tutulması ve insanlığın hizmetinde kalmasının sağlanması gerektiği vurgulandı.

Zirvede konuşma yapan yetkililer, teknolojiyi geliştirenlerin dahi yapay zekanın can alma potansiyeli dahil olmak üzere karanlık kapasiteler geliştirebileceği konusunda ikazlarda bulunduğunu tabir etti.

YANLIŞ KİŞİLERİN ELİNE GEÇME İHTİMALİ

Teknolojinin yanlış bireylerin eline geçmesi halinde felaketlere yol açabileceği uyarısı yapılırken, asıl misyonun yalnızca teknolojik ilerleme kaydetmek olmadığı, sistemin insanlığa ve doğaya hizmet etmesini garanti altına almak olduğu belirtildi.

Toplantı boyunca yapay zekanın gelecekteki kullanımını yönlendirecek ortak bir prensipler bütünü oluşturulması konusu ele alındı.

GÜVENLİK

Bu kapsamda Nvidia Üst Yöneticisi Jensen Huang, güvenliğin her vakit öncelikli olması gerektiğini savunarak, gereğince inançlı bulunmayan eserlerin piyasaya sürülmeyerek mühendislik çalışmalarına devam edilmesi gerektiğini lisana getirdi.

Huang ayrıyeten, açık kaynaklı modellerin üniversiteler ve araştırmacılar tarafından geliştirilmesinin kıymetine dikkat çekti.

Son periyotta kesimde yaşanan gelişmeler ve güvenlik ihtarları kamuoyunda geniş yankı uyandırırken, uzmanlar ve şirket yöneticileri arasında denetim yöntemlerine dair farklı görüşler bulunuyor.

İNSANLIĞIN SONU

Bazı araştırmacılar yapay zekanın insanlığın sonunu getirebileceği yönünde kaygılarını lisana getirirken, şirketler bu risklerin ciddiyetini kabul ediyor fakat güvenliğin sağlanmasında kendi süreçlerine güvenilmesi gerektiğini savunuyor.

Buna rağmen eleştirmenler, yapay zekâ şirketlerinin kendi kendilerini denetlemesinin kâfi olmayacağını söz ederek daha sıkı devlet kontrolleri davetinde bulunuyor.

Sektördeki bu güvenlik tartışmaları, teknolojinin potansiyel yararları ile mümkün tehditleri arasındaki istikrarın nasıl kurulacağı sorusunu gündemin merkezinde tutmaya devam ediyor.

Kaynak: {Haber Merkezi}