TY - UNPB ID - dl-05-1 TI - Scaling Laws for Neural Language Models AU - Kaplan, Jared AU - McCandlish, Sam AU - Henighan, Tom AU - Brown, Tom B. AU - Chess, Benjamin AU - Child, Rewon AU - Gray, Scott AU - Radford, Alec AU - Wu, Jeffrey AU - Amodei, Dario T2 - arXiv:2001.08361 PY - 2020 DO - 10.48550/arXiv.2001.08361 UR - https://arxiv.org/abs/2001.08361 ER - TY - UNPB ID - dl-05-2 TI - Training Compute-Optimal Large Language Models AU - Hoffmann, Jordan AU - Borgeaud, Sebastian AU - Mensch, Arthur AU - Buchatskaya, Elena AU - Cai, Trevor AU - Rutherford, Eliza AU - de Las Casas, Diego AU - Hendricks, Lisa Anne AU - Welbl, Johannes AU - Clark, Aidan AU - Hennigan, Tom AU - Noland, Eric AU - Millican, Katie AU - van den Driessche, George AU - Damoc, Bogdan AU - Guy, Aurelia AU - Osindero, Simon AU - Simonyan, Karen AU - Elsen, Erich AU - Rae, Jack W. AU - Vinyals, Oriol AU - Sifre, Laurent T2 - arXiv:2203.15556 PY - 2022 DO - 10.48550/arXiv.2203.15556 UR - https://arxiv.org/abs/2203.15556 ER - TY - JOUR ID - dl-05-3 TI - Explaining Neural Scaling Laws AU - Bahri, Yasaman AU - Dyer, Ethan AU - Kaplan, Jared AU - Lee, Jaehoon AU - Sharma, Utkarsh JO - Proceedings of the National Academy of Sciences 121(27), e2311878121 PY - 2024 DO - 10.1073/pnas.2311878121 UR - https://arxiv.org/abs/2102.06701 ER -