Sentient Labs, que recibió una ronda de financiación inicial de 85 millones de dólares liderada por Founders Fund de Peter Thiel, ha lanzado recientemente un nuevo marco de búsqueda de IA de código abierto: Open Deep Search (ODS). Este marco está diseñado para proporcionar capacidades de búsqueda, razonamiento y verificación a la IA, con el fin de mitigar el problema de las alucinaciones de IA.
¿Qué es la alucinación de IA?
La alucinación de IA (AI Hallucination) se refiere a la generación de información que parece razonable pero que en realidad es incorrecta por parte de los modelos de IA. Por ejemplo:
Inventar artículos o citas que no existen
Confundir hechos, relaciones causales o líneas de tiempo
Conjuntar conclusiones que parecen creíbles pero que en realidad son incorrectas.
La raíz de este fenómeno radica en que los modelos de IA actuales dependen principalmente del reconocimiento de patrones en los datos de entrenamiento, en lugar de comprender y verificar verdaderamente la veracidad de la información.
ODS: Asistente de verificación de hechos de IA
ODS es un sistema de proxy de búsqueda de código abierto que colabora con múltiples herramientas, diseñado para proporcionar capacidades de búsqueda, razonamiento y verificación a los modelos de IA. Sus componentes centrales incluyen:
Código abierto Search Tool（OST）
OST puede entender la intención del usuario, generar inteligentemente términos de búsqueda, extraer información efectiva de Internet y realizar reordenamiento semántico, filtrado y agregación, mejorando así la calidad y relevancia de los resultados de búsqueda.
Código abierto Reasoning Agent（ORA）
ORA simula el proceso de razonamiento de múltiples pasos de los humanos, pudiendo realizar consultas secundarias de manera proactiva cuando la información es insuficiente, invocar diversas herramientas o complementos externos, e incluso generar y ejecutar código Python para resolver necesidades lógicas o de cálculo complejas.
Ventajas de las SAO
Interpretabilidad: cada paso de la operación de ODS es visible, los usuarios pueden rastrear la cadena de razonamiento y la fuente de información de la IA, lo que aumenta la transparencia y la credibilidad del sistema.
Personalización: ODS admite la integración de cualquier gran modelo de lenguaje y herramientas o complementos externos, los usuarios pueden personalizar libremente las reglas de inferencia según sus necesidades, satisfaciendo diferentes escenarios de aplicación.
Reducir información errónea: mediante la comparación cruzada de múltiples fuentes de información, realizar consultas secundarias de manera proactiva, evitando llegar a conclusiones erróneas solo por coincidencias de palabras clave, ODS puede reducir eficazmente la difusión de información errónea, información falsa y información engañosa.
Ejemplo de aplicación práctica
Sector médico: los modelos de IA pueden generar recomendaciones de diagnóstico erróneas, lo que puede llevar a consecuencias graves. Al integrar ODS, los sistemas de IA médica pueden buscar automáticamente la investigación médica más reciente y las guías autorizadas antes de generar recomendaciones de diagnóstico, verificando la precisión de la información y, por lo tanto, mejorando la fiabilidad del diagnóstico.
Ámbito financiero: los modelos de IA pueden hacer recomendaciones de inversión basadas en datos obsoletos o erróneos. ODS puede ayudar a los sistemas de IA financieros a obtener en tiempo real los últimos datos del mercado y los informes de análisis, realizando múltiples verificaciones para asegurar la precisión y la actualidad de las recomendaciones de inversión.
Resumen
El lanzamiento de ODS marca un gran avance en la tecnología de búsqueda de AI de Código abierto. No solo mejora la transparencia y el control de los sistemas de AI, sino que también proporciona a los desarrolladores herramientas potentes para construir aplicaciones de AI más confiables y creíbles. A medida que ODS continúa desarrollándose, tenemos razones para creer que la AI de Código abierto desempeñará un papel aún más importante en el ecosistema tecnológico del futuro.
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Sentient Labs empodera la IA: Código abierto de búsqueda de inferencia que transforma la inteligencia confiable.
Sentient Labs, que recibió una ronda de financiación inicial de 85 millones de dólares liderada por Founders Fund de Peter Thiel, ha lanzado recientemente un nuevo marco de búsqueda de IA de código abierto: Open Deep Search (ODS). Este marco está diseñado para proporcionar capacidades de búsqueda, razonamiento y verificación a la IA, con el fin de mitigar el problema de las alucinaciones de IA.
¿Qué es la alucinación de IA?
La alucinación de IA (AI Hallucination) se refiere a la generación de información que parece razonable pero que en realidad es incorrecta por parte de los modelos de IA. Por ejemplo:
Inventar artículos o citas que no existen
Confundir hechos, relaciones causales o líneas de tiempo
Conjuntar conclusiones que parecen creíbles pero que en realidad son incorrectas.
La raíz de este fenómeno radica en que los modelos de IA actuales dependen principalmente del reconocimiento de patrones en los datos de entrenamiento, en lugar de comprender y verificar verdaderamente la veracidad de la información.
ODS: Asistente de verificación de hechos de IA
ODS es un sistema de proxy de búsqueda de código abierto que colabora con múltiples herramientas, diseñado para proporcionar capacidades de búsqueda, razonamiento y verificación a los modelos de IA. Sus componentes centrales incluyen:
Código abierto Search Tool（OST）
OST puede entender la intención del usuario, generar inteligentemente términos de búsqueda, extraer información efectiva de Internet y realizar reordenamiento semántico, filtrado y agregación, mejorando así la calidad y relevancia de los resultados de búsqueda.
Código abierto Reasoning Agent（ORA）
ORA simula el proceso de razonamiento de múltiples pasos de los humanos, pudiendo realizar consultas secundarias de manera proactiva cuando la información es insuficiente, invocar diversas herramientas o complementos externos, e incluso generar y ejecutar código Python para resolver necesidades lógicas o de cálculo complejas.
Ventajas de las SAO
Interpretabilidad: cada paso de la operación de ODS es visible, los usuarios pueden rastrear la cadena de razonamiento y la fuente de información de la IA, lo que aumenta la transparencia y la credibilidad del sistema.
Personalización: ODS admite la integración de cualquier gran modelo de lenguaje y herramientas o complementos externos, los usuarios pueden personalizar libremente las reglas de inferencia según sus necesidades, satisfaciendo diferentes escenarios de aplicación.
Reducir información errónea: mediante la comparación cruzada de múltiples fuentes de información, realizar consultas secundarias de manera proactiva, evitando llegar a conclusiones erróneas solo por coincidencias de palabras clave, ODS puede reducir eficazmente la difusión de información errónea, información falsa y información engañosa.
Ejemplo de aplicación práctica
Sector médico: los modelos de IA pueden generar recomendaciones de diagnóstico erróneas, lo que puede llevar a consecuencias graves. Al integrar ODS, los sistemas de IA médica pueden buscar automáticamente la investigación médica más reciente y las guías autorizadas antes de generar recomendaciones de diagnóstico, verificando la precisión de la información y, por lo tanto, mejorando la fiabilidad del diagnóstico.
Ámbito financiero: los modelos de IA pueden hacer recomendaciones de inversión basadas en datos obsoletos o erróneos. ODS puede ayudar a los sistemas de IA financieros a obtener en tiempo real los últimos datos del mercado y los informes de análisis, realizando múltiples verificaciones para asegurar la precisión y la actualidad de las recomendaciones de inversión.
Resumen
El lanzamiento de ODS marca un gran avance en la tecnología de búsqueda de AI de Código abierto. No solo mejora la transparencia y el control de los sistemas de AI, sino que también proporciona a los desarrolladores herramientas potentes para construir aplicaciones de AI más confiables y creíbles. A medida que ODS continúa desarrollándose, tenemos razones para creer que la AI de Código abierto desempeñará un papel aún más importante en el ecosistema tecnológico del futuro.