El único matrimonio válido es el contraído con tu primera esposa, con la que viviste en Guanajuato. el siguiente ante la ley no es válido y sería equivalente a concubinato. 

Lo único que prevalece del segundo matrimonio son las obligaciones que tienes para con tu o tus hijos, si es que los reconociste legalmente. 

Afortunadamente (para tí), ya no es delito lo que hiciste del doble matrimonio... pero moralmente en lo personal, creo que no está bien. Hay que terminar lo que uno comienza, pese lo que pese.