OpenAI 与冰岛政府合作,保护冰岛语
OpenAI 已与冰岛政府、非营利语言技术中心 Almannarómur 以及语言技术公司 Miðeind ehf 合作,将 GPT-4 融入冰岛语保护工作。此合作旨在防止冰岛语在数字领域的消亡,确保该语言在公民日常使用的 AI 应用和软件中保持功能性和准确性。
使用 RLHF 解决低资源语言挑战
强化学习人类反馈(RLHF)正被用于提升 GPT-4 在冰岛语方面的熟练度,克服传统微调在低资源语言上的局限性。虽然 GPT-4 本身比之前的版本更强大,但它最初仍会产生语法错误和不正确的文化知识。
为了解决这些问题,由 Miðeind ehf 领导的 40 名志愿者团队实施了一个 RLHF 流程,让人工测试者:
- 向 GPT-4 提供提示。
- 审核四个生成的完成结果。
- 选择最佳响应并编辑以创建理想的完成结果。
该反馈循环随后用于进一步训练模型。该方法的效率远高于之前对 GPT-3 的微调尝试,后者即使在提供 30 万个示例后仍未能生成符合语法的冰岛语。相比之下,RLHF 只需约 100 个示例即可产生有意义的结果,为其他“长尾”或低资源语言提供了一条可行的道路,以避免出现“AI 分化”。
语言和文化准确性的提升
GPT-4 在处理冰岛语方面相较于 GPT-3 和 GPT-3.5 显著提升,尤其在文化细微差别和正确翻译方面。
翻译准确性
此改进的一个例子是对 “Donald Duck” 的翻译。GPT-3 和 ChatGPT(GPT-3.5)给出了错误答案,而 GPT-4 正确地将其冰岛语名称识别为 “Andrés Önd”。
文化和情境感知
GPT-4 会根据提示的语言给出不同的响应,从而提供本地化的情境:
- 冰岛语提示: 当被问及议员人数时,GPT-4 正确指出 Alþingi(冰岛议会)有 63 名议员。
- 英文提示: 用英文提出同样的问题时,模型提供了包括英国、加拿大、印度、澳大利亚等多个国家议员的通用列表。
- 总统情境: 用冰岛语询问总统是谁时,模型正确识别出 Guðni Th. Jóhannesson(截至 2021 年)。
实际应用与未来目标
合作的最终目标是让冰岛公司能够在其交互式应用中部署 GPT-4,而不必默认使用英语。这确保了本土语言在数字交互中保持默认语言地位。
关键计划的应用包括:
- 语音助理: Embla 是 Miðeind 开发的语音助理应用,将使用 GPT-4 作为后端,提供流畅的冰岛语对话和翻译。
- 业务集成: 冰岛公司可以在其网站上部署本土冰岛语聊天机器人,而不是依赖英文替代方案。
尽管取得了这些进展,团队仍在继续完善模型,以消除剩余的语法和拼写错误,确保模型能够在冰岛语中驱动复杂且富有创意的应用。