{
  "best_global_step": null,
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 3.0,
  "eval_steps": 500,
  "global_step": 450,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.06666666666666667,
      "grad_norm": 14.91556264205913,
      "learning_rate": 2.0000000000000003e-06,
      "loss": 1.2921,
      "step": 10
    },
    {
      "epoch": 0.13333333333333333,
      "grad_norm": 7.996107626768866,
      "learning_rate": 4.222222222222223e-06,
      "loss": 0.6134,
      "step": 20
    },
    {
      "epoch": 0.2,
      "grad_norm": 5.377213784664643,
      "learning_rate": 6.444444444444445e-06,
      "loss": 0.3546,
      "step": 30
    },
    {
      "epoch": 0.26666666666666666,
      "grad_norm": 4.449236496585869,
      "learning_rate": 8.666666666666668e-06,
      "loss": 0.3599,
      "step": 40
    },
    {
      "epoch": 0.3333333333333333,
      "grad_norm": 5.098661976642675,
      "learning_rate": 9.997593339404757e-06,
      "loss": 0.2814,
      "step": 50
    },
    {
      "epoch": 0.4,
      "grad_norm": 3.769598420590047,
      "learning_rate": 9.970545007734807e-06,
      "loss": 0.2467,
      "step": 60
    },
    {
      "epoch": 0.4666666666666667,
      "grad_norm": 3.848679056584467,
      "learning_rate": 9.913603233532067e-06,
      "loss": 0.2778,
      "step": 70
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 3.220218651017255,
      "learning_rate": 9.827110471326612e-06,
      "loss": 0.2439,
      "step": 80
    },
    {
      "epoch": 0.6,
      "grad_norm": 3.977940643427499,
      "learning_rate": 9.711586898767462e-06,
      "loss": 0.2588,
      "step": 90
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 2.9465331846415728,
      "learning_rate": 9.567727288213005e-06,
      "loss": 0.2113,
      "step": 100
    },
    {
      "epoch": 0.7333333333333333,
      "grad_norm": 3.5785782259484784,
      "learning_rate": 9.396396828288272e-06,
      "loss": 0.2687,
      "step": 110
    },
    {
      "epoch": 0.8,
      "grad_norm": 2.966004232348885,
      "learning_rate": 9.19862592053875e-06,
      "loss": 0.2585,
      "step": 120
    },
    {
      "epoch": 0.8666666666666667,
      "grad_norm": 2.6198566295912387,
      "learning_rate": 8.97560398247424e-06,
      "loss": 0.2307,
      "step": 130
    },
    {
      "epoch": 0.9333333333333333,
      "grad_norm": 3.278502467911099,
      "learning_rate": 8.728672294272009e-06,
      "loss": 0.2262,
      "step": 140
    },
    {
      "epoch": 1.0,
      "grad_norm": 3.364531083176965,
      "learning_rate": 8.45931593215998e-06,
      "loss": 0.2261,
      "step": 150
    },
    {
      "epoch": 1.0666666666666667,
      "grad_norm": 2.4191736472172187,
      "learning_rate": 8.16915483699355e-06,
      "loss": 0.1765,
      "step": 160
    },
    {
      "epoch": 1.1333333333333333,
      "grad_norm": 2.2432877763960244,
      "learning_rate": 7.859934071740693e-06,
      "loss": 0.1954,
      "step": 170
    },
    {
      "epoch": 1.2,
      "grad_norm": 2.1376504054957475,
      "learning_rate": 7.533513326467911e-06,
      "loss": 0.1524,
      "step": 180
    },
    {
      "epoch": 1.2666666666666666,
      "grad_norm": 3.563650673620788,
      "learning_rate": 7.191855733945388e-06,
      "loss": 0.1914,
      "step": 190
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 2.953108796332143,
      "learning_rate": 6.837016063135491e-06,
      "loss": 0.1729,
      "step": 200
    },
    {
      "epoch": 1.4,
      "grad_norm": 4.837363486749623,
      "learning_rate": 6.4711283615704755e-06,
      "loss": 0.1771,
      "step": 210
    },
    {
      "epoch": 1.4666666666666668,
      "grad_norm": 2.107602423512455,
      "learning_rate": 6.0963931209395165e-06,
      "loss": 0.1853,
      "step": 220
    },
    {
      "epoch": 1.5333333333333332,
      "grad_norm": 2.6238922377878575,
      "learning_rate": 5.715064043072771e-06,
      "loss": 0.1767,
      "step": 230
    },
    {
      "epoch": 1.6,
      "grad_norm": 2.301683587799173,
      "learning_rate": 5.329434485913393e-06,
      "loss": 0.1463,
      "step": 240
    },
    {
      "epoch": 1.6666666666666665,
      "grad_norm": 2.418787615918389,
      "learning_rate": 4.941823670993016e-06,
      "loss": 0.1258,
      "step": 250
    },
    {
      "epoch": 1.7333333333333334,
      "grad_norm": 2.3723796332533333,
      "learning_rate": 4.5545627353605705e-06,
      "loss": 0.1468,
      "step": 260
    },
    {
      "epoch": 1.8,
      "grad_norm": 2.0579789687882353,
      "learning_rate": 4.1699807118497815e-06,
      "loss": 0.1604,
      "step": 270
    },
    {
      "epoch": 1.8666666666666667,
      "grad_norm": 3.1202998681294694,
      "learning_rate": 3.790390522001662e-06,
      "loss": 0.1535,
      "step": 280
    },
    {
      "epoch": 1.9333333333333333,
      "grad_norm": 2.6283398705931402,
      "learning_rate": 3.418075065882217e-06,
      "loss": 0.1403,
      "step": 290
    },
    {
      "epoch": 2.0,
      "grad_norm": 2.0874261845131215,
      "learning_rate": 3.0552734924528304e-06,
      "loss": 0.1425,
      "step": 300
    },
    {
      "epoch": 2.066666666666667,
      "grad_norm": 1.900857334250683,
      "learning_rate": 2.7041677330649408e-06,
      "loss": 0.0884,
      "step": 310
    },
    {
      "epoch": 2.1333333333333333,
      "grad_norm": 1.9022568401199975,
      "learning_rate": 2.3668693790681634e-06,
      "loss": 0.076,
      "step": 320
    },
    {
      "epoch": 2.2,
      "grad_norm": 1.715595456549826,
      "learning_rate": 2.0454069824514445e-06,
      "loss": 0.0727,
      "step": 330
    },
    {
      "epoch": 2.2666666666666666,
      "grad_norm": 1.9693328833524475,
      "learning_rate": 1.7417138558927244e-06,
      "loss": 0.0663,
      "step": 340
    },
    {
      "epoch": 2.3333333333333335,
      "grad_norm": 1.8812535749472057,
      "learning_rate": 1.4576164455890014e-06,
      "loss": 0.0729,
      "step": 350
    },
    {
      "epoch": 2.4,
      "grad_norm": 2.436521194701277,
      "learning_rate": 1.1948233467939978e-06,
      "loss": 0.0767,
      "step": 360
    },
    {
      "epoch": 2.466666666666667,
      "grad_norm": 2.507200830035406,
      "learning_rate": 9.549150281252633e-07,
      "loss": 0.0578,
      "step": 370
    },
    {
      "epoch": 2.533333333333333,
      "grad_norm": 2.592621697957312,
      "learning_rate": 7.393343264399439e-07,
      "loss": 0.0667,
      "step": 380
    },
    {
      "epoch": 2.6,
      "grad_norm": 2.574262047125795,
      "learning_rate": 5.493777694441521e-07,
      "loss": 0.0655,
      "step": 390
    },
    {
      "epoch": 2.6666666666666665,
      "grad_norm": 2.8523266823037363,
      "learning_rate": 3.8618777822278854e-07,
      "loss": 0.0685,
      "step": 400
    },
    {
      "epoch": 2.7333333333333334,
      "grad_norm": 3.86085972521519,
      "learning_rate": 2.5074579658471266e-07,
      "loss": 0.0843,
      "step": 410
    },
    {
      "epoch": 2.8,
      "grad_norm": 2.243692836535493,
      "learning_rate": 1.438663885441982e-07,
      "loss": 0.0662,
      "step": 420
    },
    {
      "epoch": 2.8666666666666667,
      "grad_norm": 1.8607106543922172,
      "learning_rate": 6.61923394371039e-08,
      "loss": 0.0714,
      "step": 430
    },
    {
      "epoch": 2.9333333333333336,
      "grad_norm": 2.8904646879767717,
      "learning_rate": 1.8190790134231528e-08,
      "loss": 0.0702,
      "step": 440
    },
    {
      "epoch": 3.0,
      "grad_norm": 2.067493666547294,
      "learning_rate": 1.504276011621286e-10,
      "loss": 0.0722,
      "step": 450
    },
    {
      "epoch": 3.0,
      "step": 450,
      "total_flos": 6701660405760.0,
      "train_loss": 0.19709702054659525,
      "train_runtime": 3132.4673,
      "train_samples_per_second": 0.862,
      "train_steps_per_second": 0.144
    }
  ],
  "logging_steps": 10,
  "max_steps": 450,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 3,
  "save_steps": 500,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 6701660405760.0,
  "train_batch_size": 1,
  "trial_name": null,
  "trial_params": null
}