La raison vient d'un jeu de mot : on peut dire d'une telle personne qu'elle n’est « pas folle », donc « pas bête » donc « fine » (avec le sens de maligne ou astucieuse).
Or, n'est-il pas de notoriété publique que la guêpe a la taille extrêmement fine ?
C'est d'ailleurs pour cela qu'on appelait des « guêpières » ces gaines que les femmes se mettaient autrefois pour s'affiner la taille.
Donc, à la même époque, le mot « guêpe » désignait une personne maligne, finaude.
C'est ainsi que cette « guêpe », a donné la locution « pas bête la guêpe » qui est devenue « pas folle la guêpe » au 20e siècle.
La guêpe en question est une cousire de la « fine mouche », elle symbolise comme sa parente dans le monde des insectes l’esprit pratique, prévoyant et habile, qui a toujours su tirer son épingle du jeu.
L’exclamation « Pas folle la guêpe ! » a été mise en circulation par « Arletty », qui fait cette réponse à Gaëtan Le Sentencier (Michel Simon) dans le film de Jean Boyer Circonstances atténuantes (1939).