OpenAI, Çıkarmadığı AI Algılama Aracı İle İlgili Hile Kaygıları İle Mücadele Ediyor

OpenAI, AI üreteçeri içeriklerin, özellikle makalelerin ve araştırma makalelerinin tespiti için sofistike bir anti-hile aracı geliştirdi, ancak etik nedenlerle bunu piyasaya sürmedi, dedi WSJ. Bu araç, yaklaşık bir yıldır dağıtıma hazır olan, ChatGPT'nın çıktısına kibarca token seçiminde değişiklik yaparak, yalnızca OpenAI teknolojisi tarafından algılanabilen bir model oluşturan bir watermarking tekniğini kullanarak çalışmaktadır. İkilemler arasında, önemli AI üreteçeri metinler için %99.9'luk bir etkinlik oranıyla övünürken, potansiyel atlatmalar ve tespit aracı için uygun erişim belirlenmesi gibi endişeler ve teknolojilerin daha geniş AI ekosistemi ve yabancı İngilizce konuşanlar üzerindeki olası etkisi gibi endişeler yer almaktadır.