3.3. Les al·lucinacions de la IA
Les al·lucinacions en els resultats de la intel·ligència artificial generativa (IAG), com els models de llenguatge o els generadors d’imatges, es refereixen a casos en què aquests sistemes produeixen informació que és incorrecta, incoherent, o sense sentit en relació amb la informació d’entrada proporcionada o les expectatives reals. Aquest fenomen es produeix per diverses raons, incloent-hi limitacions en l’entrenament de dades, errors en l’algoritme, o incomprensió del context. Per exemple:
- Models de llenguatge:
- Informació fictícia: un model de llenguatge podria generar una data incorrecta d’un esdeveniment històric si no ha estat entrenat adequadament amb dades històriques precises. Per exemple, si un usuari demana «Quan va començar la Segona Guerra Mundial?» i el model respon incorrectament «1942» comptes lloc de «1939».
- Detalls inventats: en la generació de text, un model podria inventar noms, llocs, o fets que no existeixen. Per exemple, en escriure una història, el model podria crear un personatge «President de la república de Fantasia», un país que no existeix.
- Generadors d’imatges:
- Elements visuals incoherents: en la creació d’imatges a partir de descripcions textuals, un sistema pot generar una imatge d’un «gat volant amb ales d’ocell». Això podria ser el resultat de la IA intentant fusionar característiques de diferents animals en una sola imatge.
- Combinacions impossibles: un model pot generar una imatge d’un paisatge amb elements que no solen coexistir, com per exemple una platja coberta de neu.
- Modelatge predictiu:
- Prediccions errònies: en models predictius, com aquells utilitzats en finances, un model pot al·lucinar resultats exagerats, com predir un augment del 500 % en l’acció d’una empresa de l’IBEX 35 sense cap base realista, potencialment a causa de biaixos en les dades o sobreajustament.
Aquests exemples il·lustren com les al·lucinacions es poden manifestar de maneres que fan que els resultats generats per la IAG siguin menys útils, poc fiables o directament enganyosos. És important que els desenvolupadors de sistemes IAG implementin controls i validacions per minimitzar aquestes incidències i millorar la fiabilitat dels seus models.