Riversoft利用AWS上的生成式AI将智能旅行系统推理时间减少75%

Riversoft面临其旅行推荐系统Smart Gateway效率和准确性的挑战，导致推理时间长和客户服务延迟。为此，该组织利用AWS服务，集成先进的生成式AI模型（如Claude 3和BERT）。这一战略方法使推理时间从20秒减少到5秒，降幅达75%，同时准确率超过90%。这些改进不仅通过更快、更准确的旅行套餐推荐提升了客户体验，还将推理成本降低20%，并将整体匹配流程从4小时缩短至不到10分钟。

早期AI工具推理时间长（20-30秒），信息准确性低，LLMs经常返回不相关结果，导致旅行推荐系统效率和客户满意度下降。

迁移至AWS，以Amazon Lightsail作为虚拟云服务器；在Amazon Bedrock上使用Claude 3模型进行检索增强生成，将客户输入转化为语义数据；通过Amazon SageMaker部署BERT模型实现命名实体识别和文档分类；并采用AWS Fargate与AWS Lambda优化容器化与无服务器架构，提升系统效率。

1. 1选择AWS作为技术基础，在Amazon Lightsail上搭建虚拟云服务器环境。
2. 2在与AWS解决方案架构师合作下，测试Amazon Bedrock上的Claude 3模型，验证其逻辑推理能力。
3. 3正式将Claude模型用于检索增强生成，把客户自由文本输入转换为可处理的语义数据。
4. 4在AWS指导下通过Amazon SageMaker部署BERT模型，用于命名实体识别和文档分类。
5. 5实验并集成AWS Fargate与AWS Lambda，实现容器化与无服务器计算，提升系统可扩展性和效率。

未披露