Kendini Sıkıştıran Sinir Ağları

Bu çalışma, sinir ağlarının boyutunu azaltmayı hedefliyor, ki bu da sinir ağlarının yürütme zamanı, güç tüketimi, bant genişliği ve bellek ayak izini önemli ölçüde etkiliyor. Önemli bir meydan okuma, boyutu azaltmayı öyle bir şekilde yapmak ki, özel donanım gerektiğinde verimli eğitim ve çıkarım için kolayca kullanılabilsin. Biz, Self-Compression adı verilen basit ve genel bir yöntemi öneriyoruz: hem gereksiz ağırlıkları kaldırmayı, hem de kalan ağırlıklara temsil etmek için gereken bit sayısını azaltmayı amaçlamaktadır. Bu, genel bir kaybı minimize etmek için kullanılır. Deneylerimizde, ağdaki ağırlık ve bitlerin sadece %3'ü ve %18'i kalmakla birlikte, kayan nokta doğruluğunu gösteriyoruz.