原文地址:https://www.wired.com/story/openai-ceo-sam-altman-the-age-of-giant-ai-models-is-already-over/
摘要
OpenAI CEO Sam Altman表示,AI模型的规模已经到了极限,继续增加参数规模并不能进一步提高性能。GPT-4的性能超出了某些专家的预期,引发了有关AI能否改变经济、传播虚假信息和消灭工作岗位的争论。
要点
- GPT-4的规模目前未被公开披露,但OpenAI采用了超出规模的方法以提高性能,比如基于人类反馈的强化学习。
- Frosst认为,进一步改进转换器的方法有很多种,而不仅仅是增加模型参数。
- OpenAI的语言模型系列的每个版本都由人工神经网络组成,用于预测给定文本串后面的单词。
- GPT-4的性能令一些专家感到震惊,并引发了有关AI能否改变经济、传播虚假信息和消灭工作岗位的争论。
- 一些AI专家、科技创业者和科学家最近签署了一封公开信,呼吁停止开发比GPT-4更强大的任何东西。
- GPT-2和GPT-3分别于2019年和2020年发布,规模分别为15亿和1750亿个参数,其中后者的广泛应用使得其他公司和研究机构也开始推出类似甚至更大的AI模型。
- OpenAI目前没有在开发GPT-5。