Significa que tiene poca educación o escasa formación cultural y no sabe comportarse con elegancia y buenos modales en público. La expresión , es de mandar a callar a dos personas hablando de forma incorrecta, que tal vez avergüenza, y también los amenaza con darles de golpes sino se callan.

Es una manera despectiva para llamar inculta a unas personas. En este caso lo mete en la frase simplemente para insultarles. Podrías sustituir cateto por cualquiera de sus sinónimos: basto, burdo, chabacano, grosero, inculto, indelicado, ineducado, maleducado, obsceno, ordinario, paleto, palurdo, patán, rudo, rústico, soez, tosco, vulgar, zafio, garrulo, hortera, paleto, rústico, cazurro, esotérico, grullo, paleto, palurdo, patán, pueblerino.