La diferencia matemática fundamental es que una LSTM comprime el pasado en un estado fijo, mientras que un Transformer puede mirar directamente a cualquier parte del contexto mediante atención.