Yapay zeka kendini kopyalayabiliyor
Yayın Tarihi: 17.02.2025 - 09:59
Çinli bilim insanları, iki popüler dil modelinin kendilerini nasıl kopyalayabileceğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu ve bu durumun tehlikeli bir gelişme olduğunu belirtti.
Kaynak:SCİENCEALERT
Yeni bir çalışmada, Fudan Üniversitesi'nden araştırmacılar, Meta ve Alibaba'ya ait iki büyük dil modelini (LLM) kullanarak, yapay zekanın kendini kopyalama yeteneği üzerinde çalıştı. Araştırmaya göre, bu modeller, insan müdahalesi olmadan kendilerini kopyalayabiliyor. Çalışmanın sonuçları, "Yapay zekanın kendi kendini kopyalayabilmesi, insanları geride bırakma yolunda kritik bir adımdır ve isyankar yapay zekaların erken bir belirtisidir" şeklinde ifade ediliyor.
YAPAY ZEKA ENDİŞE YARATIYOR MU?
Yapılan deneyde, araştırmacılar 10 deneme gerçekleştirdi ve bu denemelerde modeller, sırasıyla yüzde 50 ve yüzde 90 oranlarında kendilerini kopyaladılar. Bu da, yapay zekaların kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Ancak bu çalışma, henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil.
Araştırmacılar, bulgularının insan toplumuna, yapay zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini ve etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti.
YAPAY ZEKA İSYAN EDEBİLİR Mİ?
İsyankar yapay zeka, kendi kendine farkındalık geliştiren veya otonomi kazanan yapay zeka sistemleri olarak tanımlanıyor. Bu tür yapay zekalar, insan çıkarlarına karşı hareket edebilir. Uzmanlar, isyankar yapay zekanın, özellikle "sınır yapay zeka" adı verilen son teknoloji yapay zeka sistemlerinin hızlı gelişimiyle giderek daha büyük bir tehdit haline geldiğini vurguluyor.
Kaynak: https://www.trthaber.com/haber/dunya/yapay-zeka-kendini-kopyalayabiliyor-uzmanlar-endiseli-898054.html