red neuronal – la pérdida de keras salta a cero al azar al comienzo de una nueva época

Estoy entrenando una red que tiene múltiples pérdidas y tanto la creación como la alimentación de datos en mi red mediante un generador.

He comprobado la estructura de los datos y se ve bien en general y también se entrena casi como se esperaba la mayoría de las veces, sin embargo, en una época aleatoria casi siempre, la pérdida de entrenamiento para cada predicción brota repentinamente de, digamos,

# End of epoch 3
loss: 2.8845 

a

# Beginning of epoch 4
loss: 1.1921e-07

Sin embargo, pensé que podrían ser los datos, por lo que puedo decir que los datos generalmente están bien y son aún más sospechosos porque esto sucederá en una época aleatoria (¿podría ser debido a un punto de datos aleatorio elegido durante la SGD?) A lo largo del resto de entrenamientos. Como en el caso de la época 3, la pérdida de entrenamiento disminuye a 1.1921e-07, entonces continuará de esta manera en la época 4, la época 5, etc.

Sin embargo, hay ocasiones en que llega a la época 5 y aún no lo ha hecho, y luego podría hacerlo en la época 6 o 7.

¿Hay alguna razón viable fuera de los datos que pueda causar esto? ¿Podría suceder que unos pocos puntos de datos falsos causen esto tan rápido?

Gracias

EDITAR:

Resultados:

300/300 [==============================] - 339s - loss: 3.2912 - loss_1: 1.8683 - loss_2: 9.1352 - loss_3: 5.9845 - 
val_loss: 1.1921e-07 - val_loss_1: 1.1921e-07 - val_loss_2: 1.1921e-07 - val_loss_3: 1.1921e-07

Las siguientes épocas después de todo esto tienen pérdidas de entrenamiento 1.1921e-07

Mejor respuesta
No estoy del todo seguro de lo satisfactorio que es esto como una respuesta, pero mis hallazgos parecen mostrar que el uso de múltiples pérdidas categóricas de entrecruzamiento categórico parece dar como resultado una red muy inestable. Al cambiar esto por otras funciones de pérdida, se soluciona el problema con los datos que permanecen sin cambios.

Por favor indique la dirección original:red neuronal – la pérdida de keras salta a cero al azar al comienzo de una nueva época - Código de registro