Sparks of Artificial General Intelligence: Early experiments with GPT-4
由微软研究院针对GPT-4的研究论文《通用人工智能的火花：GPT-4 的早期实验》：
人工智能（AI）研究人员一直在开发和完善大型语言模型（LLMs），这些模型在各种领域和任务中展示出了令人瞩目的能力，挑战了我们对学习和认知的理解。OpenAI 最新开发的 GPT-4 [Ope23] 模型是使用前所未有的计算和数据规模进行训练的。在本文中，我们报告了我们对一早期版本的 GPT-4 进行调查的情况，当时它仍处于 OpenAI 的积极开发阶段。我们认为 GPT-4（这个早期版本）是一批表现出比以前的 AI 模型更一般智能的新一代 LLMs 的一部分（例如 ChatGPT 和 Google 的 PaLM）。我们讨论了这些模型不断增强的能力和意义。我们证明了，在掌握语言方面之外，GPT-4 可以解决涉及数学、编码、视觉、医学、法律、心理学等新颖而困难的任务，而无需任何特殊提示。此外，在所有这些任务中，GPT-4 的表现与人类水平的表现非常接近，并且通常远超过像 ChatGPT 这样的先前模型。鉴于 GPT-4 的广度和深度，我们认为它可以合理地被看作是人工通用智能（AGI）系统的早期（但仍然不完整）版本。在探索 GPT-4 的过程中，我们特别强调了发现其局限性的重要性，并讨论了实现更深入和全面版本的 AGI 所面临的挑战，包括可能需要追求超越下一个词预测的新范例。最后，我们反思了最近技术飞跃的社会影响和未来的研究方向。
论文附件：https://store.zhelin.me/static/2023/GGUgPJ06.pdf
原文地址：https://arxiv.org/abs/2303.12712
