Transfer öğrenme

# 31. derste ResNet'i tanımıştık. torchvision, bu mimarileri HAZIR sunar --
# genelde milyonlarca ImageNet görseliyle ÖNCEDEN eğitilmiş ağırlıklarla birlikte.
model = models.resnet18(weights=None)  # NOT: gerçek kullanımda weights="IMAGENET1K_V1" ile önceden eğitilmiş ağırlıklar indirilir
toplam_param = sum(p.numel() for p in model.parameters())
print(f"ResNet18 toplam parametre sayısı: {toplam_param:,}")
print("Bu ağ, ImageNet'te (1000 sınıf, 1M+ görsel) haftalarca GPU süresiyle eğitilmiştir.")
print("Transfer öğrenmenin fikri: bu 'öğrenilmiş görme bilgisini' SIFIRDAN eğitmeden yeniden kullanmak.")

# Strateji 1 (feature extraction): TÜM ağı dondur, sadece son katmanı değiştirip eğit.
for parametre in model.parameters():
    parametre.requires_grad = False  # gradyan hesaplanmasın -- ağırlıklar SABİT kalsın

print(f"\nOrijinal son katman: {model.fc}")
model.fc = nn.Linear(model.fc.in_features, 5)  # kendi problemimiz için: 5 sınıf
print(f"Yeni son katman (5 sınıf için): {model.fc}")

egitilebilir = sum(p.numel() for p in model.parameters() if p.requires_grad)
print(f"\nEğitilebilir parametre sayısı: {egitilebilir:,} (toplamın sadece %{100*egitilebilir/toplam_param:.3f}'i)")
print("Yeni katman rastgele başlatıldığı için varsayılan olarak requires_grad=True -- geri kalan HER ŞEY dondurulmuş durumda.")

# Strateji 2 (fine-tuning): dondurmayı KISMEN geri al -- son bloğu da eğitilebilir yap.
for parametre in model.layer4.parameters():
    parametre.requires_grad = True

egitilebilir_ince_ayar = sum(p.numel() for p in model.parameters() if p.requires_grad)
print(f"\nSon blok + sınıflandırıcı çözüldükten sonra eğitilebilir parametre: {egitilebilir_ince_ayar:,}")
print(f"Toplamın %{100*egitilebilir_ince_ayar/toplam_param:.2f}'i artık eğitilebilir.")
print("\nFeature extraction: HIZLI, AZ veri gerektirir, ama esneklik düşük.")
print("Fine-tuning: DAHA YAVAŞ, daha fazla veri ister, ama probleme daha iyi UYUM sağlayabilir.")

# Değiştirilmiş ağın hâlâ çalıştığını doğrulayalım.
girdi = torch.randn(1, 3, 224, 224)  # tek bir 'sahte' RGB görsel
cikis = model(girdi)
print(f"\nÖrnek girdi ({tuple(girdi.shape)}) ile çıkış şekli: {tuple(cikis.shape)}")
print("Çıkış artık 1000 değil, 5 boyutlu -- ResNet'in 'görme becerisini' kendi 5-sınıflı problemimize UYARLADIK.")