Es cierto. Cuando una IA inventa información, está, en cierto modo, creando o alucinando respuestas. Esto plantea una pregunta crucial: ¿Cómo distinguir lo verdadero de lo que no lo es?

Sabías que las IA alucinan. Imagen generada con Leonardo.ai

En un reciente taller sobre «Inteligencia Artificial al Servicio de la Investigación Académica: Herramientas y Estrategias» dirigido por Sonia Blanco, se destacó la necesidad de considerar a las IA como asistentes, no como proveedoras infalibles de información. Una de las primeras lecciones clave fue esta: cuando las IA generan datos, están, de alguna manera, teniendo alucinaciones. ¿Cómo podemos controlar esto?

Aquí se presentan algunos pasos clave:

1. Trabaja con variedad de IA: Hay diversas IA disponibles, como Claude2, Bing, Bard, ChatGPT, entre otras. Es recomendable utilizar más de una para contrastar y verificar los resultados de las consultas realizadas.

2.  Utiliza l método PEPE: Al formular instrucciones para la IA, es esencial seguir este acrónimo:

• Precisión y claridad. Debes definir claramente tu objetivo de investigación. Ejemplo: En lugar de preguntar «¿Qué impacto tiene la desinformación en TikTok?», una consulta más precisa y clara podría ser: «Describe cómo la desinformación en TikTok afecta las opiniones y comportamientos de los adolescentes en relación con la salud mental». 

• Evitar ambigüedades: Estas pueden generar respuestas incorrectas o vagas. Usa terminología especifica de tu campo o área de investigación. Ejemplo: Evita preguntas ambiguas como «¿Cuál es la situación actual de la inteligencia artificial en la medicina?». En su lugar, sé más específico: «Proporciona ejemplos recientes de cómo la IA se utiliza para diagnosticar enfermedades específicas en entornos clínicos». 

• Proporcionar contexto: Es crucial para obtener respuestas relevantes y precisas. Ejemplo: Para obtener información relevante sobre la IA en la educación, en lugar de preguntar simplemente «Háblame sobre la IA en la educación», podrías decir: «Explícame cómo la IA está siendo utilizada para personalizar el aprendizaje en aulas multiculturales y mejorar la retención de conocimientos». Recuerda de incluir aquella información que te interesa y también si hay datos que no te interesen.

• Experimentar y refinar: Continuar modificando y perfeccionando las consultas. Formula preguntas abiertas que sirvan para explorar ideas. Si los resultados de la consulta no son satisfactorios, reformula las preguntas para obtener respuestas más precisas. Ejemplo: Si tu consulta inicial no proporciona la información deseada, modifícala. Por ejemplo, si preguntas «¿Cuáles son los riesgos éticos de la IA?» y obtienes una respuesta vaga, podrías refinarla a: «Detalla casos específicos donde la IA haya generado sesgos éticos en la toma de decisiones en el ámbito de la atención médica».

3. Redacta bien tus instrucciones. Conviene siempre poner a la IA en un la situación o rol de la persona que está buscando la información. Para ello puedes usar la frase de: Ponte en el papel de un investigador / de una jefe de publicidad / de un periodista….

4. Se crítico con la información recibida. Recuerda que a la IA debemos tratarla como una asistente. Por lo tanto, es tu labor revisar hacer los cambios oportunos ya que en muchas ocasiones puedes mejorar tú la redacción o argumentación.

5. Verifica en múltiples IA y solicita fuentes: Consultar en varias IA y requerir las fuentes de información puede ayudar a verificar la veracidad de los datos y evitar respuestas inventadas. En este caso la ventaja que ofrece perplexity.ai es que incluye las fuentas en sus respuestas. 

6. Borrador Zero. Escribe tus ideas sin preocuparte de la estructura de la gramática. Pídele que haga una revisión de tus textos, en este caso la IA nos puede ofrecer una mejora del mismo. Debes indicar claramente lo que deseas: texto académico, no superar un número determinado de palabras, y recuerda revisar bien este texto ya que a veces la IA, alucina e incluye información que no es relevante y te quita párrafos que si lo son.

Por cierto, que nos informó Sonia Blanco que estas ideas y claves, han sido remitidas por Chatgpt 4.0 . Para ello utilizó el siguiente prompt:

“Ponte en el papel de un joven investigador doctoral en ciencias sociales y dime como redactar mejores prompts. “

Recuerda, tratar a las IA’s como asistentes implica una supervisión activa y crítica de la información que proporcionan, siendo conscientes de su capacidad para generar datos no verídicos.

Estas estrategias fueron presentadas durante las Jornadas de Escuela Doctoral de Otoño, llevadas a cabo del 16 al 17 de noviembre en la Facultad de Ciencias de la Comunicación.

.