Sentient Labs赋能AI:开源推理搜索 重塑智能可信

由 Peter Thiel 旗下的 Founders Fund 领投、种子轮融资高达 8500 万美元的 Sentient Labs,近日推出了全新的开源 AI 搜索框架——Open Deep Search(ODS)。该框架旨在为 AI 提供搜索、推理和验证能力,从而缓解 AI 幻觉问题。

什么是 AI 幻觉?

AI 幻觉(AI Hallucination)指的是 AI 模型生成看似合理但实际上错误的信息。例如:

编造不存在的论文或引用

混淆事实、因果关系或时间线

拼凑出看似可信但实际上错误的结论

这种现象的根本原因在于当前的 AI 模型主要依赖于训练数据中的模式识别,而非真正理解和验证信息的真实性。

ODS:AI 的事实核验助手

Image

ODS 是一个多工具协同的开源搜索代理系统,旨在为 AI 模型提供搜索、推理和验证的能力。其核心组件包括:

Open Search Tool(OST)

OST 能够理解用户意图,智能生成搜索词,深入互联网抓取有效信息,并进行语义重排、过滤和聚合,从而提高搜索结果的质量和相关性。

Open Reasoning Agent(ORA)

ORA 模拟人类的多步推理过程,能够在信息不足时主动进行二次查询,调用多种外部工具或插件,甚至生成并执行 Python 代码,以解决复杂的逻辑或计算需求。

ODS 的优势

Image

Image

可解释性:ODS 的每一步操作都是可见的,用户可以回溯 AI 的推理链路和信息来源,从而提高系统的透明度和可信度。

可定制性:ODS 支持接入任意大语言模型和外部工具或插件,用户可以根据需求自由定制推理规则,满足不同的应用场景。

减少错误信息:通过交叉对比多个信源,主动进行二次查询,避免仅凭关键词匹配得出错误结论,ODS 能够有效减少错误信息、虚假信息和误导信息的传播。

实际应用示例

医疗领域:AI 模型可能会生成错误的诊断建议,导致严重后果。通过集成 ODS,医疗 AI 系统可以在生成诊断建议前,自动搜索最新的医学研究和权威指南,验证信息的准确性,从而提高诊断的可靠性。

金融领域:AI 模型可能会基于过时或错误的数据做出投资建议。ODS 可以帮助金融 AI 系统实时获取最新的市场数据和分析报告,进行多方验证,确保投资建议的准确性和时效性。

总结

ODS 的推出标志着开源 AI 搜索技术的一次重大突破。它不仅提高了 AI 系统的透明度和可控性,还为开发者提供了强大的工具,以构建更可靠、更可信的 AI 应用。随着 ODS 的不断发展,我们有理由相信,开源 AI 将在未来的技术生态中发挥更加重要的作用。

查看原文
本页面内容仅供参考,非招揽或要约,也不提供投资、税务或法律咨询。详见声明了解更多风险披露。
  • 赞赏
  • 评论
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate.io APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)