Yeni Araştırma, AI'nin Bağımsız Öğrenme Yetersizliğine Sahip Olduğunu ve Varoluşsal Bir Tehlike Olmadığını Açıklıyor

ZipNada'nın Yazısı: Yeni bir araştırma, ChatGPT gibi büyük dil modellerinin (LLM) bağımsız olarak öğrenemeyeceğini ve yeni beceriler kazanamayacağını ortaya koyuyor. Bu, bu modellerin karmaşık düşünme yetenekleri geliştirmeyeceğini ve dolayısıyla tahmin edilebilir ve kontrol edilebilir kılıyor. Çalışma, LLM'lerin dilde sofistike cümleler üretebilse de, varoluşsal tehditler oluşturma ihtimalinin düşük olduğu sonucuna varıyor. Ancak, AI'nın kötüye kullanımına dikkat edilmesi gerektiğini vurguluyor. Bugün yayınlanan ve 62. Annual Meeting of the Association for Computational Linguistics (ACL 2024) - dil işleme alanında uluslararası düzeyde önde gelen konferans - için düzenlenen çalışmada, LLM'lerin emirleri takip etme ve dilde yetkinlik sağlama yeteneğini sunsa da, yeni beceriler kazanamadığı ortaya çıktı. Bu da onların temelde kontrol edilebilir, tahmin edilebilir ve güvenli kaldığı anlamına geliyor. "Bu tür AI'nin insanlığa bir tehdit olduğu yönündeki yaygın anlatı, bu teknolojilerin yaygın kabulünü ve geliştirilmesini engelliyor ve ayrıca dikkatimizi gerçekten gereken konulara yönlendiriyor," dedi Dr. Harish Tayyar Madabushi, University of Bath'ta bilgisayar bilimcisi ve yeni LLM'lerin 'ortaya çıkan yetenekleri' üzerine yapılan çalışmanın ortak yazarı. Profesör Iryna Gurevych ekledi: "...sonuçlarımız, AI'nin hiç bir şekilde tehdit olmadığını anlamına gelmiyor. Aksine, bize göre, belirli tehditlerle ilgili karmaşık düşünme becerilerinin ortaya çıkmasını destekleyen kanıtlar yok ve LLM'lerin öğrenme sürecini kontrol edebiliriz. Gelecek araştırmalar, bu modellerin fake haberler üretilmesi gibi diğer riskleri üzerine yoğunlaşmalıdır."