{"id":316,"date":"2024-08-22T13:56:46","date_gmt":"2024-08-22T11:56:46","guid":{"rendered":"https:\/\/iag-recursos.azurewebsites.net\/?page_id=316"},"modified":"2024-09-20T13:19:39","modified_gmt":"2024-09-20T11:19:39","slug":"3-3-las-alucinaciones-de-la-ia","status":"publish","type":"page","link":"https:\/\/iag.recursos.uoc.edu\/es\/3-3-las-alucinaciones-de-la-ia\/","title":{"rendered":"3.3. Las alucinaciones de la IA"},"content":{"rendered":"<p>Las <strong>alucinaciones<\/strong> en los resultados de la inteligencia artificial generativa (IAG), como los modelos de lenguaje o los generadores de im\u00e1genes, se refieren a los casos en los que estos sistemas producen informaci\u00f3n incorrecta, incoherente o sin sentido en relaci\u00f3n con la informaci\u00f3n de entrada proporcionada o las expectativas reales. Este fen\u00f3meno se produce por varias razones, incluyendo las limitaciones en el entrenamiento de datos, los errores en el algoritmo o la incomprensi\u00f3n del contexto. Por ejemplo:<\/p>\n<ul>\n<li><strong>Modelos de lenguaje<\/strong>:\n<ul>\n<li><strong>Informaci\u00f3n ficticia<\/strong>: un modelo de lenguaje podr\u00eda generar una fecha incorrecta de un acontecimiento hist\u00f3rico si no ha sido entrenado adecuadamente con datos hist\u00f3ricos precisos. Por ejemplo, si un usuario pide \u00ab\u00bfCu\u00e1ndo empez\u00f3 la Segunda Guerra Mundial?\u00bb y el modelo responde incorrectamente \u00ab1942\u00bb en lugar de \u00ab1939\u00bb.<\/li>\n<li><strong>Detalles inventados<\/strong>: en la generaci\u00f3n de texto, un modelo podr\u00eda inventar nombres, lugares o hechos que no existen. Por ejemplo, al escribir una historia, el modelo podr\u00eda crear un personaje \u00abPresidente de la Rep\u00fablica de Fantas\u00eda\u00bb, un pa\u00eds que no existe.<\/li>\n<\/ul>\n<\/li>\n<li><strong>Generadores de im\u00e1genes<\/strong>:\n<ul>\n<li><strong>Elementos visuales incoherentes<\/strong>: en la creaci\u00f3n de im\u00e1genes a partir de descripciones textuales, un sistema puede generar una imagen de un \u00abgato volador con alas de p\u00e1jaro\u00bb. Esto podr\u00eda ser el resultado de la IA intentando fusionar caracter\u00edsticas de diferentes animales en una sola imagen.<\/li>\n<li><strong>Combinaciones imposibles<\/strong>: un modelo puede generar una imagen de un paisaje con elementos que no suelen coexistir, como por ejemplo una playa cubierta de nieve.<\/li>\n<\/ul>\n<\/li>\n<li><strong>Modelado predictivo<\/strong>:\n<ul>\n<li><strong>Predicciones err\u00f3neas<\/strong>: en modelos predictivos, como los utilizados en finanzas, un modelo puede <strong>alucinar resultados<\/strong> exagerados, como predecir un aumento del 500 % en la acci\u00f3n de una empresa del IBEX 35 sin ning\u00fan fundamento realista, potencialmente a causa de sesgos en los datos o sobreajustes.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<p>Estos ejemplos ilustran como las alucinaciones se pueden manifestar de maneras que hacen que los resultados generados por la IAG sean menos \u00fatiles, poco fiables o directamente enga\u00f1osos. Es importante que los desarrolladores de sistemas IAG implementen controles y validaciones para minimizar estas incidencias y mejorar la fiabilidad de sus modelos.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Las alucinaciones en los resultados de la inteligencia artificial generativa (IAG), como los modelos de lenguaje o los generadores de im\u00e1genes, se refieren a los casos en los que estos sistemas producen informaci\u00f3n incorrecta, incoherente o sin sentido en relaci\u00f3n con la informaci\u00f3n de entrada proporcionada o las expectativas reales. Este fen\u00f3meno se produce por [&hellip;]<\/p>\n","protected":false},"author":2,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_acf_changed":false,"footnotes":""},"acf":[],"_links":{"self":[{"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/pages\/316"}],"collection":[{"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/comments?post=316"}],"version-history":[{"count":1,"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/pages\/316\/revisions"}],"predecessor-version":[{"id":317,"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/pages\/316\/revisions\/317"}],"wp:attachment":[{"href":"https:\/\/iag.recursos.uoc.edu\/es\/wp-json\/wp\/v2\/media?parent=316"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}