OpenAI表示ChatGPT-4将内容审核时间从数月缩短至数小时

ChaPT-4 的预测可以改进较小的模型来处理大量数据，并以多种方式改进内容审核。

ChaPT 背后的开发者 OpenAI 提倡使用 人工智能（AI） 在内容审核中的应用，宣扬其通过加快处理具有挑战性的任务来提高社交媒体平台运营效率的潜力。

该公司 表示 ，其最新的 GPT-4 AI 模型可以将内容审核时间从数月显着缩短至数小时，从而确保提高标签的一致性。

对于 Facebook 母公司 Meta 等社交媒体公司来说，内容审核具有挑战性，需要在全球范围内协调众多审核员，以防止用户访问儿童色情内容和高度暴力图像等有害内容。

ChaPT-4 的预测可以改进较小的模型来处理大量数据。这一概念通过多种方式改进了内容审核，包括标签的一致性、快速的反馈循环和减轻精神负担。

声明强调，OpenAI 目前正在努力提高 GPT-4 的预测准确性。正在探索的一种途径是整合思想链推理或自我批评。此外，它还从宪法人工智能中汲取灵感，尝试识别不熟悉风险的方法。

OpenAI 的目标是利用模型根据对危害的广泛描述来检测潜在的有害内容。从这些努力中获得的见解将有助于完善当前的内容政策或在未知的风险领域制定新的内容政策。

8 月 15 日，OpenAI 首席执行官 Sam Altman 澄清称，该公司不会使用用户生成的数据来训练其 AI 模型。