yorumlanabilirlik

Modelin yazdığı akıl yürütme adımı, içeride ayrı bir desene karşılık geliyor

Yeni bir çalışma, modellerin yazdığı akıl yürütme adımlarının iç durumlarda ayrı desenlere karşılık geldiğini gösteriyor. Sinyal en güçlü orta katmanlarda.