【导读】数据获取最新解，便是从生成模型中学习。 获取高质量数据，已经成为当前大模型训练的一大瓶颈。 前几天，OpenAI被《纽约时报》起诉，并要求索赔数十亿美元。诉状中，列举了GPT-4抄袭的多项罪证。 甚至，《纽约时报》还呼吁摧毁几乎所有的GPT等大模型。 一直以来，AI界多位大佬认为「合成数据」或许是解决这个问题的最优解。 此前，谷歌团队还提出了用LLM代替人类标记偏好的方法RLAIF，效果甚至不输人类。 现如今，谷歌MIT的研究人员发现，从大模型中学习可以得到使用真实数据训练的最佳模型的