Huvudproblemet här imo är att ML-utövare inte förstår att vi inte förstår vad som händer med neurala nätverk. En bonde som inte har någon uppfattning om växtbiologi men odlar framgångsrika grödor kommer att tro att de förstår växter. På sätt och vis gör de det, men inte riktigt.