本地聊天中的AI驱动骚扰检测

Sanwa Comtec利用IBM watsonx.ai为受限于云服务的客户实现了聊天通信中的骚扰检测AI功能。利用与法律专家共同策划的训练数据，他们在IBM Watson的NLP框架内训练了自定义语言模型，以识别潜在的骚扰对话。该解决方案在本地环境中安全运行，无需依赖云服务即可实现有效检测。

Sanwa Comtec 提供本地部署的 Rocket.Chat 聊天通信方案，主要面向不能使用云环境的客户；其目标是创建一种在无法连接外部网络的安全本地环境中，利用 AI 从聊天内容中检测疑似骚扰对话并发出警报的功能。

Sanwa Comtec 与法律专家合作策划包含性骚扰与职权骚扰对话示例的训练数据，在 IBM watsonx.ai 中使用 IBM Watson NLP 分类能力训练自定义语言模型；通过概念验证评估不同 Watson NLP 模型准确率并选定最优模型，持续精炼训练数据，在本地包中安全部署轻量语言模型实现骚扰检测。

1. 1与法律专家策划代表性骚扰对话训练数据
2. 2在 IBM watsonx.ai 中使用 Watson NLP 训练自定义语言模型
3. 3通过 PoC 评估不同 Watson NLP 模型准确率并选定最有效模型
4. 4持续精炼训练数据提升检测准确率
5. 5在本地包中部署轻量语言模型实现安全检测

该案例未在来源材料中披露量化效果指标，具体成效请参考下方信息来源。

存在无法将数据传输至云环境的限制场景，需将语言模型安全部署在本地包中而非依赖云端 LLM。