大模型的现状总结

  • OpenAI科学家关于2023年大模型的现状总结《Language Language Models (in 2023)》

    作者自述: 试图总结这个领域迫使我思考这个领域真正重要的是什么。虽然规模化无疑很突出,但其深远的影响更为微妙。我从三个角度分享我对缩放的想法: 1)改变观点是必要的,因为有些能力只有在一定规模时才会出现。即使某些能力不适用于当前一代的法学硕士,我们也不应该声称它不起作用。相反,我们应该认为它还不起作用。一旦有了更大的模型,许多结论就会改变。 这也意味着过去的一些结论是无效的,我…

    2023年10月13日 报告