Yapay zeka sohbet robotlarının ürettiği metinlerin insan eliyle yazılan içeriklerden ayırt edilmesine yönelik çalışmalar sürat kazanırken, Anthropic’ten dikkat çeken bir adım geldi. Şirket, Claude modelinin metin oluşturma sisteminde değişikliğe giderek çıktılara dışarıdan bakıldığında fark edilmesi güç bir filigran yerleştirmeyi planladığını açıkladı. Yeni sistem, metin içerisindeki kelime seçimlerinde yapılan küçük ve rastgele değişikliklerden yararlanarak yapay zeka tarafından oluşturulan içeriklerin özel sistemlerle tespit edilmesini sağlayacak.
KELİME SEÇİMLERİNDEKİ RASTGELELİK KULLANILACAK
Yapay zeka modelleri metin üretirken bir sonraki kelimeyi seçmek için farklı olasılıkları pahalandırıyor. Birebir cümle farklı vakitlerde oluşturulduğunda modelin emsal mana taşıyan farklı sözleri tercih edebilmesinin temelinde de bu istatistiksel yapı bulunuyor.
Anthropic’in planladığı filigran sistemi ise modelin bu doğal rastgeleliğinden yararlanacak. Sistem, sözlerin seçilme olasılıklarını muhakkak ölçüde değiştirerek metnin tamamında beşerler tarafından fark edilmesi güç, fakat özel tespit araçlarının belirleyebileceği istatistiksel bir iz oluşturacak.
Örneğin modelin birebir manası taşıyan iki söz arasında seçim yaptığı bir noktada, filigran sistemi muhakkak tercihlere yük verecek. Bu tercihler metnin genelinde bir araya geldiğinde, yapay zeka üretimini ortaya koyabilecek bir kalıp meydana gelecek.
“ORTALAMA OKUYUCU FARK EDEMEYECEK”
Anthropic, oluşturulacak filigranın sıradan bir okuyucu tarafından fark edilemeyecek biçimde tasarlanacağını ve rastgele bir yapıya sahip olacağını belirtti.
Bu formül sayesinde metnin görünümünde besbelli bir değişiklik meydana gelmemesi, lakin teknik tahlil yapılması halinde içeriğin yapay zeka tarafından üretilip üretilmediğine ait işaretlerin ortaya çıkarılması hedefleniyor.
TEKNOLOJİ YAZARINDAN ELEŞTİRİ
Filigran uygulaması teknoloji etraflarında ise tartışmayı beraberinde getirdi. Teknoloji müellifi John Gruber, sistemin Claude’un metin üretme yeteneğini olumsuz etkileyebileceğini savundu.
Gruber’a nazaran modelin söz tercihlerini makul bir filigran nizamına nazaran değiştirmesi, birtakım durumlarda en yanlışsız yahut en uygun sözün seçilmesinin önüne geçebilir. Bu durumun da metin kalitesini sınırlayabileceği öne sürüldü.
Ancak University College London bilgisayar bilimleri profesörü Steven Murdoch, kelam konusu değişikliğin kullanıcı tarafından fark edilebilecek ölçüde bir tesir oluşturmasının beklenmediğini söz etti.
“RASTGELELİK MODELLERİN TEMELİNDE VAR”
Uzmanlara nazaran yapay zeka modellerinin metin üretiminde kullandığı rastgelelik, sistemlerin çalışma sisteminin değerli bir kesimini oluşturuyor.
Murdoch, modellerin olasılıklara dayalı seçimler yapmasının doğal olduğunu belirterek, bu düzeneğin ortadan kaldırılması durumunda sistemlerin muhakkak tabirleri yahut kalıpları daima tekrarlayabileceğine dikkat çekti.
Bu sebeple Anthropic’in filigran amacıyla kelime seçimlerinde yapacağı hudutlu değişikliklerin modelin genel performansını önemli biçimde etkilemeyebileceği bedellendiriliyor.
YAPAY ZEKA METİNLERİNİN KAYNAĞI DAHA KOLAY BELİRLENECEK
Planlanan sistemin en değerli kullanım alanlarından birinin eğitim dünyası olması bekleniyor. Yapay zeka tarafından hazırlanan metinlerin öğrenciler yahut akademisyenler tarafından rastgele bir değişiklik yapılmadan kendi çalışmalarıymış üzere sunulmasının önüne geçilmesi, filigran teknolojisinin maksatları arasında gösteriliyor.
Özellikle yapay zeka kullanımının süratle yaygınlaşmasıyla birlikte, bir metnin insan tarafından mı yoksa bir sohbet robotu tarafından mı oluşturulduğunun belirlenmesi eğitim kurumları açısından giderek daha kıymetli hale geliyor.
AMAÇ SADECE İÇERİK TESPİTİ DEĞİL
Filigran uygulamasının sırf akademik sahtekarlık yahut yanlış bilgiyle uğraş emeli taşımadığına da dikkat çekiliyor.
İnternette yapay zeka tarafından üretilen içeriklerin süratle çoğalması, gelecekte yapay zeka modellerinin eğitiminde kullanılan dataların niteliği açısından yeni bir sorun oluşturabilir. Modellerin internet üzerindeki kendi ürettikleri içeriklerle yine eğitilmesi, vakit içerisinde data kalitesinin düşmesine ve sistemlerin performans kaybı yaşamasına yol açabilecek bir risk olarak bedellendiriliyor.
Bu sebeple yapay zeka üretimi içeriklerin tespit edilebilmesini sağlayacak filigranların, gelecekte eğitim datalarının kaynağının belirlenmesi ve insan üretimi içerikle yapay zeka üretimi içeriğin birbirinden ayrılması açısından da değer kazanabileceği belirtiliyor.
Kaynak: {Haber Merkezi}
Yorumlar 0
Yorum Yap
Henüz yorum yok. İlk yorumu siz yapın!