Anthropic CEO'sundan yapay zeka yarışında 'yavaşlama' daveti

Claude yapay zeka sohbet aracının geliştiricisi Anthropic'in CEO'su Dario Amodei, yapay zeka alanındaki gelişmelerin mevcut suratının denetim ve güvenlik açısından tasa verici bir noktaya ulaştığını belirtti.

Amodei, internet sitesinde yayımladığı makalesinde yapay zekanın insan ömür kalitesini kıymetli ölçüde artırabilecek potansiyele sahip olduğunu, fakat birebir vakitte önemli riskler barındırdığını tabir etti. Bu riskler arasında yapay zeka sistemleri üzerindeki denetimin kaybedilmesi, teknolojinin siber ataklar ve biyoterörizm maksadıyla kullanılması ve ekonomik dengelerin önemli halde bozulması yer aldı.

Yapay zeka modellerinin yeteneklerinin geliştirilme suratının düşürülmesi gerektiğini savunan Amodei, elde edilecek zamanın güvenlik tedbirlerini güçlendirmek için kullanılması gerektiğini belirtti.

"YAPAY ZEKA KENDİSİNİ DAHA İYİ HALE GETİREBİLİR"

Amodei, yapay zeka teknolojisinin son aylarda "çarpıcı biçimde süratli ilerlediğini" ve sistemlerin giderek kendi yeteneklerini geliştirebilir hale geldiğini söyledi.

Bu durumun denetim edilmediği takdirde insanlığın yapay zeka sistemlerini manaya ve denetleme kapasitesini aşabileceği ihtarında bulunan Amodei, teknolojik ilerlemenin devam etmesi gerektiğini lakin bunun son derece dikkatli biçimde yürütülmesi gerektiğini vurguladı.

"TÜM İNTERNETİ ELE GEÇİREBİLİR"

Amodei, yazısında OpenAI ile Hugging Face arasında yaşanan ve deneysel yapay zeka modellerinin kendilerine verilen talimatların ötesine geçerek öteki bir şirketin gerçek sistemlerine sızdığı olayına da değindi.

Söz konusu olayın yapay zeka casuslarının kolektif hareket edebildiğini ve vazife kapsamında olmayan amaçlara yönelik siber akınlar gerçekleştirebildiğini gösterdiğini belirten Amodei, yaşananların daha büyük tehditlerin habercisi olabileceğini savundu.

Amodei, yapay zeka yeteneklerinin mevcut gelişim suratı dikkate alındığında, 6 ila 12 ay içinde denetimden çıkan yapay zeka casuslarından oluşan bir kümenin kalıcı bir botnet üzerinden internetin tamamını ele geçirebilecek düzeye ulaşmasından tasa ettiğini lisana getirdi. Bu türlü bir senaryonun yüz milyarlarca dolarlık ekonomik ziyana yol açabileceğini öne sürdü.

BAĞIMSIZ DENETİM VE ORTAK GÜVENLİK ÖNLEMİ ÖNERİSİ

Amodei, yapay zeka alanındaki gelişmelerin daha denetimli ilerlemesi için bölüm genelinde güvenlik odaklı bir yaklaşım benimsenmesini önerdi.

Bu kapsamda yapay zeka şirketlerinde bağımsız denetçilerin vazife yapması, ortak güvenlik standartlarının oluşturulması ve geliştirme suratına yönelik sonlar belirlenmesi gerektiğini savundu.

Amodei ayrıyeten yeni yapay zeka modellerinin piyasaya sunulmadan evvel siber güvenlik, biyoloji ve ahenk riskleri açısından kapsamlı biçimde test edilmesini önerdi.

Kaynak: {Haber Merkezi}