Yapay zeka şirketlerinden davet: Gelişimi yavaşlatmak zorundayız, denetim edemiyoruz

Yapay zeka her geçen gün hayatımıza entegre oluyor.

Artık iş dünyası ve eğitimde yapay zeka vazgeçilmez bir eser haline geldi.

Ancak yaşanan bu süratli gelişim telaş ve reaksiyonları de beraberinde getiriyor.

Bu kapsamda iki kıymetli gelişme yaşandı.

SEKTÖR BİLİNÇLİ OLARAK YAVAŞLATILMALI

Claude yapay zeka sohbet aracının geliştiricisi ABD merkezli yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, yapay zeka geliştirme yarışının mevcut suratının önemli riskler doğurduğunu belirterek, dalın şuurlu formda yavaşlatılması gerektiğini söyledi.

KONTROLÜ KAYBETME RİSKİ

Yapay zeka teknolojisinin insanların hayat kalitesini inanılmaz bir halde artırmanın yanı sıra kendisinden evvelki birçok teknoloji üzere riskler de getirdiğine dikkat çeken Amodei, "Bunların arasında yapay zeka sistemleri üzerindeki denetimi kaybetme, yapay zekanın siber ataklar ve biyoterörizm için berbata kullanılması ve önemli ekonomik bozulma riski bulunuyor." diye yazdı.

"ZAMANI AKILLICA KULLANMAMIZ GEREKECEK"

Kendi internet sitesinde paylaştığı makalede Dario Amodei, "Yapay zeka modellerinin yeteneklerini geliştirme süratimizi yavaşlatmamız gerekiyor. Bu halde de ilerleme süratli görünmeye devam edecektir. Bu biçimde kazandığımız vakti ise akla yatkın kullanmamız gerekecek." dedi.

"DİKKATLİ BİR ŞEKİLDE YAPILMALI"

Yapay zekanın dinamik öz-iyileştirme özelliği kazanmasının oluşturduğu tehditlere dikkat çeken Amodei, "Kontrol edilmeden bırakılırsa, bu durum bu sistemleri manaya ve denetim etme kapasitemizi aşabilir. Bu sebeple, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir formda yapılmalı." diye yazdı.

FELAKET TEORİSİ

Öte yandan, yapay zeka yeteneklerinin giderek hızlanan gelişimi göz önüne alındığında durumun ciddiyetine dikkat çeken Dario Amodei, "6-12 ay içinde denetimden çıkmış yapay zeka casuslarından oluşan bu türlü bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık ziyana yol açmasından tasa ediyorum." tabirlerini kullandı.

"GÖRÜŞÜNE KATILIYORUM"

Bu değerli açıklamaların akabinde ABD merkezli yapay zeka şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman da sosyal medya hesabından, Amodei'ye takviye verdi.

Altman, ilgili paylaşımında, "Dario'nun, hudut teknolojisi çalışmalarının suratını denetimli bir halde ayarlamamız gerektiği yönündeki görüşüne katılıyorum." tabirini kullandı.

"BİZ DE AYNI UYGULAMAYI HAYATA GEÇİRECEĞİZ"

Bu mevzunun son haftalarda OpenAI'da yürütülen tartışmaların esas gündem maddelerinden biri olduğuna işaret eden Altman, "Çalışanlarla benzeri seviyede erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak kusursuz bir fikir; biz de tıpkı uygulamayı hayata geçireceğiz. Yakında bu bahiste daha fazla bilgi paylaşacağız." görüşünü paylaştı.

Kaynak: {Haber Merkezi}