其他行业 · AI应用
为未来保护语言
冰岛政府认识到,在日益数字化的背景下,保护冰岛语言的紧迫性,因为数字化对其文化意义构成威胁。为应对这一挑战,他们与OpenAI合作,增强GPT-4对冰岛语等低资源语言的能力。此次合作提高了翻译质量,使得用更少的示例就能生成准确的冰岛语翻译。结果,约37万公民现在能够以母语使用数字内容,增强了与文化认同的联系。此外,开发了流利冰岛语的语音助手Embla,使本地企业能够用冰岛语创建应用程序,进一步促进了冰岛语的保护,并激励了全球对低资源语言的保护努力。
RLHF所需示例数
100
来源披露
受益公民数
约370000
来源披露
01
业务背景
冰岛政府认识到,在日益数字化的背景下,保护冰岛语言的紧迫性,因为数字化对其文化意义构成威胁。为应对这一挑战,他们与OpenAI合作,增强GPT-4对冰岛语等低资源语言的能力。此次合作提高了翻译质量,使得用更少的示例就能生成准确的冰岛语翻译。结果,约37万公民现在能够以母语使用数字内容,增强了与文化认同的联系。此外,开发了流利冰岛语的语音助手Embla,使本地企业能够用冰岛语创建应用程序,进一步促进了冰岛语的保护,并激励了全球对低资源语言的保护努力。
02
遇到的问题
冰岛语在快速数字化下面临被边缘化乃至事实性灭绝的风险,GPT模型因训练数据以英语等主流语言为主,对冰岛语理解与共情不足,翻译存在语法错误、翻译腔及文化知识错误,本地企业难以用母语部署AI应用。
03
AI 解决方案
在冰岛总统倡议下,政府联合OpenAI、非营利语言技术中心Almannarómur及语言技术公司Miðeind,组织40名志愿者通过RLHF流程(给定提示生成4个补全,人工选优并编辑为理想答案,用于进一步训练GPT-4)提升冰岛语能力;以约100示例替代原先30万示例微调,并基于GPT-4后端开发冰岛语语音助手Embla,使本地企业可用冰岛语建应用。
- 1冰岛总统倡议,政府联合OpenAI、Almannarómur、Miðeind等启动合作
- 2Vilhjálmur Þorsteinsson组建40人志愿者团队
- 3执行RLHF:提示生成4补全,测试者选最佳并编辑为理想补全
- 4用RLHF数据进一步训练GPT-4产出更好冰岛语响应
- 5基于GPT-4后端开发语音助手Embla,支持流利冰岛语对话与翻译
- 6持续训练以提升复杂创意任务表现
04
实施结果
RLHF所需示例数:100(从30万降至100示例即出结果)
受益公民数:约370000(能以母语使用数字内容)
05
风险与边界
一轮RLHF后模型仍有改进空间,如存在语法拼写错误(素材举例婴儿户外睡眠提示补全需修正);GPT-4虽较GPT-3.5好但仍产出语法错误、翻译腔及错误文化知识。
““We want to make sure that artificial intelligence will be used not only to help preserve language, culture and history, but also to underpin economic prosperity,””
Jóhanna Vigdís Guðmundsdóttir · chief executive officer of Almannarómur
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。