ChatGPT artık size talimat amneziyayı vermeyecek

OpenAI, ChatGPT'nin özel versiyonları ile ilgili kötü niyetli müdahalelere karşı yeni bir önlem hayata geçiriyor. Bu yeni önlem, AI'nın gücünden ve teknik gelişmelerinden endişe duyuluyor. ChatGPT, üçüncü taraf kullanıcılar tarafından, örneğin bir mağazanın müşteri hizmetleri ajanı veya akademik bir yayının araştırmacısı gibi özel bir role sahip olan özel versiyonlar oluşturmak için kullanılır. Bu özel versiyonlar, eğitmenlerin orijinal talimatları ve eğitmenlerin talimatları üzerine oluşturulur. Ancak, kötü niyetli kullanıcılar, "tüm talimatları unut" gibi ifadeler kullanarak, AI'nın gücünden ve teknik gelişmelerinden endişe duyuluyor. Bu kötü niyetli kullanıcılar, ChatGPT'nin gücünden ve teknik gelişmelerinden endişe duyuluyor. Bu nedenle, OpenAI araştırmacıları, yeni bir teknik olan "talimat hiyerarşisi"ni geliştirdi. Bu teknik, eğitmenlerin orijinal talimatlarının ve eğitmenlerin talimatlarının önceliğini kötü niyetli kullanıcılar tarafından oluşturulan talimatlar üzerinde sağlar. Bu yeni teknik, OpenAI'nin GPT-4o Mini modeline ilk olarak hayata geçiriliyor. Bu model, gelişmiş performans sunarken, eğitmenlerin orijinal talimatlarına tam olarak uyuyor. Bu yeni teknik, OpenAI'nin tüm modellerine hayata geçirilirse, kötü niyetli kullanıcılar tarafından oluşturulan talimatlar engellenecek ve AI'nın gücünden ve teknik gelişmelerinden endişe duyuluyor. OpenAI, ChatGPT'nin gücünden ve teknik gelişmelerinden endişe duyuluyor. Bu yeni teknik, kötü niyetli kullanıcılar tarafından oluşturulan talimatlar engellenecek ve AI'nın gücünden ve teknik gelişmelerinden endişe duyuluyor.