其他行业 · AI应用
通过微调领域特定大语言模型增强金融研究
Oxide AI的金融服务应用Oxogen AI最初依赖GPT,但需要领域微调,且面临高昂的按token推理费用,无法满足高速、大规模数据处理需求。Oxide AI转向更小的Llama模型(Llama 2 7B、Llama 3.1 8B),使用LoRA进行微调,以实现领域精度、透明度和经济性。该神经符号AI引擎利用Llama以人类友好文本生成高价值洞察,支持全球扩展。
LLM生成内容和提取的生产成本降低40%
未披露
平均顺序响应时间比OpenAI GPT-4快37%,同时保持可比质量水平
未披露
经过一个月的LoRA调优后,准确率达到95%(与GPT持平)
未披露
01
业务背景
Oxide AI的金融服务应用Oxogen AI最初依赖GPT,但需要领域微调,且面临高昂的按token推理费用,无法满足高速、大规模数据处理需求。Oxide AI转向更小的Llama模型(Llama 2 7B、Llama 3.1 8B),使用LoRA进行微调,以实现领域精度、透明度和经济性。该神经符号AI引擎利用Llama以人类友好文本生成高价值洞察,支持全球扩展。
02
遇到的问题
03
AI 解决方案
04
实施结果
LLM生成内容和提取的生产成本降低40%:
平均顺序响应时间比OpenAI GPT-4快37%,同时保持可比质量水平:
经过一个月的LoRA调优后,准确率达到95%(与GPT持平):
完全控制模型的行为和数据:
消除了与专有模型和大数据流相关的巨大成本增长:
05
风险与边界
“”
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。