{"id":7523,"date":"2025-01-09T11:47:06","date_gmt":"2025-01-09T17:47:06","guid":{"rendered":"https:\/\/idsinc.com\/?p=7523"},"modified":"2026-06-10T10:02:55","modified_gmt":"2026-06-10T16:02:55","slug":"alucinaciones-de-ia","status":"publish","type":"post","link":"https:\/\/idsinc.com\/es\/ai-hallucinations\/","title":{"rendered":"La inteligencia artificial no me ayud\u00f3 a escribir este informe pericial"},"content":{"rendered":"\n\n\n
\n

Resumen ejecutivo<\/strong><\/h3>\n\n\n\n

\u2014<\/strong><\/p>\n\n\n\n

Los requisitos de los informes periciales est\u00e1n determinados por la jurisdicci\u00f3n y la sede del litigio subyacente. Sin embargo, una verdad universal es que el informe pericial debe basarse en hechos y una metodolog\u00eda s\u00f3lida. La Inteligencia Artificial (IA) permite a los expertos realizar su trabajo con mayor rapidez y eficiencia, pero esa velocidad conlleva un riesgo y un coste. En el mejor de los casos, la IA puede hacer que el acceso a la informaci\u00f3n sea m\u00e1s eficiente, pero sin experiencia ni curiosidad \u2014cualidades que pueden transformar esa informaci\u00f3n en conocimiento y sabidur\u00eda\u2014 los expertos se arriesgan a tomar decisiones que pasan por alto perspectivas m\u00e1s profundas o, peor a\u00fan, a equivocarse simplemente al basarse en informaci\u00f3n "falsa". No apreciar las limitaciones de la IA ni aplicarle los est\u00e1ndares adecuados de revisi\u00f3n por pares puede llevar al fracaso de un experto, como ocurri\u00f3 en un caso en Minnesota.<\/p>\n<\/div>\n\n\n\n

Introducci\u00f3n<\/strong><\/h3>\n\n\n\n

Las herramientas de IA mejoran constantemente tanto en fiabilidad como en eficacia. Abogados y expertos utilizan cada vez m\u00e1s herramientas como ChatGPT, Microsoft Copilot y diversos modelos de IA de c\u00f3digo abierto. Sin embargo, los expertos ponen a prueba peri\u00f3dicamente sus limitaciones con cada uso. Un caso reciente en Minnesota, relacionado con la nueva legislaci\u00f3n destinada a prohibir la tecnolog\u00eda de "deep fake" utilizada para influir en las elecciones, ofrece una visi\u00f3n crucial de estas limitaciones. Un experto, conocido por su investigaci\u00f3n y formaci\u00f3n sobre tecnolog\u00eda utilizada para el enga\u00f1o, ha sido acusado de citar trabajos acad\u00e9micos inventados en su declaraci\u00f3n, presentada bajo pena de perjurio.<\/p>\n\n\n\n

Este libro blanco tiene como objetivo discutir el concepto de alucinaciones de IA en informes de expertos para promover el debate y generar conciencia sobre c\u00f3mo detectarlas, as\u00ed como sobre c\u00f3mo los expertos pueden evitar el error de citar hechos inexistentes.<\/p>\n\n\n\n

\n\n\n\n

El caso de estudio: Kohls y Franson contra Ellison y el estado de Minnesota (\u201cLitigios de falsificaciones profundas en Minnesota<\/em>\u201d)<\/strong><\/h2>\n\n\n\n

Fondo<\/strong><\/h3>\n\n\n\n

En el Litigios de falsificaciones profundas en Minnesota<\/em>El Fiscal General de Minnesota, Keith Ellison, contrat\u00f3 a Jeff Hancock, director fundador del Laboratorio de Redes Sociales de la Universidad de Stanford, para que presentara una declaraci\u00f3n pericial en apoyo de la nueva legislaci\u00f3n estatal que proh\u00edbe el uso de tecnolog\u00eda de "deep fake" para influir en las elecciones. Sin embargo, una reciente moci\u00f3n Daubert presentada por los demandantes alega que varios estudios acad\u00e9micos citados por Hancock para respaldar su declaraci\u00f3n son, de hecho, alucinaciones creadas por herramientas de IA de modelos ling\u00fc\u00edsticos de gran tama\u00f1o (LLM).<\/p>\n\n\n\n

Datos clave de la moci\u00f3n Daubert<\/strong><\/h3>\n\n\n\n

Hancock ha sido impugnado bas\u00e1ndose en los siguientes factores:<\/p>\n\n\n\n

    \n
  1. Alucinaci\u00f3n de IA<\/strong>:La moci\u00f3n Daubert cita una supuesta \u201calucinaci\u00f3n de IA\u201d con respecto a un estudio en el que se bas\u00f3 Hancock como raz\u00f3n para someter a escrutinio todo el informe.<\/li>\n\n\n\n
  2. Reputaci\u00f3n en cuesti\u00f3n<\/strong>:La moci\u00f3n Daubert solicita que se impongan sanciones al acusado y a Hancock por \u201cfalsa representaci\u00f3n\u201d.<\/li>\n\n\n\n
  3. El trabajo previo complica el informe actual<\/strong>Como parte de la mayor\u00eda de los requisitos de los informes periciales, un perito debe proporcionar sus cualificaciones, incluyendo una lista de todos los testimonios y publicaciones de los \u00faltimos cinco a\u00f1os. Las publicaciones anteriores de Hancock identifican el da\u00f1o potencial de las "falsificaciones profundas", pero \u00e9l mismo fue v\u00edctima de errores casi id\u00e9nticos que identific\u00f3 en otras obras.<\/li>\n<\/ol>\n\n\n\n

    An\u00e1lisis<\/strong><\/h3>\n\n\n\n

    La moci\u00f3n Daubert ilustra que los litigantes y sus abogados son cada vez m\u00e1s conscientes del auge de la IA en los documentos legales, as\u00ed como de los riesgos asociados. Una de las posibles causas de que los peritos sean v\u00edctimas de alucinaciones y otros errores es, sin duda, la falta de tiempo. Sin embargo, si la falta de tiempo es responsabilidad del propio perito, en lugar de ser impuesta por el tribunal, existen pocas excusas para sus errores.<\/p>\n\n\n\n

    Como se analizar\u00e1 m\u00e1s adelante, las herramientas de IA tienen cabida en el trabajo pericial. Sin embargo, esta asistencia de IA es m\u00e1s adecuada para la ideaci\u00f3n y los bocetos iniciales del producto del trabajo pericial. La dependencia de herramientas de IA para partes significativas o la elaboraci\u00f3n de informes periciales finales a\u00fan se considera problem\u00e1tica por parte de la comunidad jur\u00eddica en general y conlleva riesgos inherentes.<\/p>\n\n\n\n

    \n\n\n\n

    Alucinaciones de IA y su origen<\/strong><\/h3>\n\n\n\n

    Los fundamentos de la disputa y la legislaci\u00f3n final giraron en torno a las "deep fakes" en las elecciones. Estas "deep fakes" son producto de la utilizaci\u00f3n de IA por parte de humanos para crear medios falsos y enga\u00f1osos. Por s\u00ed sola, la IA no generar\u00eda ni difundir\u00eda "deep fakes" sin el elemento humano. Sin embargo, las alucinaciones son resultados autogenerados de las LLM, debido a la asimilaci\u00f3n de informaci\u00f3n incorrecta como si fuera verdadera y a la generaci\u00f3n de una respuesta a una consulta basada en ella. En un c\u00edrculo vicioso que se retroalimenta, cuantas m\u00e1s "deep fakes" enga\u00f1osas existan, m\u00e1s se pueden alimentar a las LLM, lo que a su vez genera m\u00e1s alucinaciones.<\/p>\n\n\n\n

    C\u00f3mo detectar y, con suerte, prevenir las alucinaciones<\/em><\/strong><\/h4>\n\n\n\n