Los modelos de lenguaje pueden ser de diferentes tipos y complejidades, pero comúnmente se basan en técnicas de aprendizaje automático, especialmente en redes neuronales, para aprender patrones en grandes conjuntos de datos de texto. Estos modelos pueden entrenarse en corpus lingüísticos masivos para aprender la relación entre las palabras en un idioma específico y luego pueden aplicarse a una variedad de tareas de NLP.