Cette expression attestée en 1832 a d’abord désigné, dans les rangs de l’armée, les officiers supérieurs militaires.
L’expression est passée au civil pour qualifier, avec une ironie mêlée de prudent respect, les personnages de poids dans les branches d’activité.
L’étrange passage de « légume » au féminin surprend et confère sa drôlerie à l’expression, mais « légume » a été féminin en 1575, l’était encore en 1681.
Les « grands manitous » et les « huiles » sont autant de « grosses légumes.
L’équivalent anglais « VIP » (very important person) apparaît parfois en français malgré sa servilité misérable.