​微软中国创新技术总经理：GPT-4 以后，不建议再用微调进行特定领域的模型适配

微软中国创新技术总经理：GPT-4 以后，不建议再用微调进行特定领域的模型适配

钛媒体 App 5 月 27 日消息，微软（中国）有限公司创新技术总经理崔宏禹日前在上海举行的向星力 · 未来数据技术峰会上回应了当下一个广泛被提及的问题，即如何用自己的数据训练自己的模型，将私域数据与 GPT 的能力相融合。崔宏禹解答道，" 一般来说，我们推荐两种方式。一种是微调（在不改动预训练模型的基础上，在模型顶层增加分类器或一些特征映射，使微调后的模型能够更贴合实际使用场景），但在 GPT-4 以后，我们已经不建议或者已经不让大家使用微调的方式了。我们更推荐的是嵌入（将一个内容实体映射为低维向量，从而可以获得内容之间的相似度）的方式。"（澎湃）