代码合成大型语言模型的危害分析框架
OpenAI 开发了一套危害分析框架，旨在揭示与部署能够进行高级代码合成的大型语言模型（LLM），如 Codex，相关的安全风险和危害。该框架是必要的，因为虽然代码生成模型提供了显著的好处，但它们也带来了滥用的潜在风险、对齐问题，以及可能加速技术领域进展而产生不稳定影响的可能性。
多维危害分析
该危害分析框架从四个主要维度评估代码合成模型的安全风险：
- 技术风险： 评估模型固有的局限性以及生成不安全或错误代码的潜在可能性。
- 社会风险： 分析这些模型的部署如何影响社会结构和互动。
- 政治风险： 评估模型被用于影响政治稳定或进程的潜在方式。
- 经济风险： 检视代码合成自动化可能导致的经济扰动。
代码生成能力评估框架
为了为危害分析提供依据，OpenAI 使用了一套新颖的评估框架来衡量先进代码生成技术的能力。该评估聚焦于两个关键指标：
- 规范提示复杂度： 该框架确定模型如何处理用于指定所需代码的提示的复杂性和表达能力。
- 相对人类能力： 该框架评估模型相对于人类在理解和执行这些规范方面的能力。
通过将模型的能力量化并与这些基准进行比较，OpenAI 能更好地识别模型生成代码的能力何时可能从有用工具转变为潜在危害的具体阈值。