Recomendaciones y recursos

La irrupción de la Inteligencia Artificial (IA) en el escenario mundial representa una revolución comparable a la invención de la imprenta o el advenimiento de Internet, marcando el inicio de una nueva era en el desarrollo humano y tecnológico.

Este avance no solo va a transformar sectores industriales y profesionales, sino que también plantea un desafío significativo para el ámbito educativo. La Universidad, como incubadora del conocimiento y formadora de futuras generaciones, se encuentra ante la necesidad imperiosa de adaptarse a esta realidad cambiante.

En la Universidad de Huelva estamos plenamente concienciados de la importancia de promover acciones de difusión y concienciación, de dotar de herramientas adecuadas a la comunidad a la vez que garantizar un uso adecuado de estas nuevas capacidades. Tenemos la obligación de reflexionar sobre cómo la educación superior puede evolucionar en este contexto para formar individuos capaces de liderar con responsabilidad ética en la era de la IA.

Esta página pretende recopilar las acciones de difusión de la Universidad de Huelva, presentar las herramientas que pueden mejorar las capacidades de nuestra comunidad y llamar la atención sobre las consideraciones y recomendaciones necesarias para un uso adecuado.

Actividades de difusión celebradas en la UHU

Qué es la Inteligencia Artificial Generativa

La Inteligencia Artificial Generativa (IAG) representa una frontera avanzada en el campo de la IA. Esta tecnología utiliza algoritmos sofisticados para generar textos, imágenes, música y otros tipos de contenido que pueden ser indistinguibles de los creados por humanos.

La IAG se fundamenta en modelos como las Redes Generativas Adversarias (GANs) y los modelos de Transformers, que han demostrado ser particularmente eficaces en la comprensión y generación de lenguaje natural. Dentro de las IAG destacan los Large Language Models (LLM) que son capaces de procesar texto en lenguaje natural para producir respuestas totalmente nuevas a partir del entrenamiento llevado a cabo con la gran cantidad de datos procesados y que se adaptan fácilmente a nuevas tareas mediante un ajuste fino a nuestros datos. 

El potencial de la IAG es vasto y variado, abarcando desde la automatización de tareas creativas hasta la personalización de experiencias educativas, pasando por el desarrollo de soluciones innovadoras en investigación y desarrollo. Algunos de los ejemplos más exitosos incluyen herramientas de escritura automática, que asisten en la generación de textos literarios o académicos; programas de diseño gráfico que crean imágenes y arte digital; o sistemas de composición musical capaces de producir piezas originales en diversos estilos. Entre los ejemplos más populares de IAG se encuentran los sistemas de chat, como:

IAG en la Universidad

Como otras herramientas en el pasado, la IA está replanteando la manera de afrontar muchas de nuestras tareas cotidianas. Es una tecnología que puede ayudar a mejorar distintos aspectos del trabajo universitario, desde ayudar a mecanizar y hacer más eficientes tareas administrativas hasta apoyar a los docentes en la creación de contenidos más accesibles para el alumnado.

La aplicación de la IAG en la educación promete revolucionar la manera en que aprendemos y enseñamos, ofreciendo posibilidades para la personalización del aprendizaje, la creación de material didáctico adaptado a las necesidades específicas de cada alumno y la generación de entornos de aprendizaje interactivos y estimulantes. Asimismo, en el ámbito de la investigación, la IAG puede acelerar el proceso de descubrimiento y análisis, permitiendo a los investigadores explorar nuevas áreas del conocimiento con una eficiencia sin precedentes.

Sin embargo, el avance de la IAG también plantea desafíos éticos y prácticos, especialmente en términos de originalidad, propiedad intelectual y la potencial pérdida de empleos en sectores creativos. La adopción responsable de esta tecnología requiere un diálogo continuo entre desarrolladores, usuarios y reguladores para asegurar que su impacto en la sociedad sea positivo y equitativo, maximizando sus beneficios mientras se minimizan los riesgos asociados.

Destacado

La Universidad de Huelva proporciona a PDI, PTGAS y alumnado el uso de la versión con protección de datos de Microsoft Copilot.

La principal ventaja de esta IAG es que las preguntas y datos que utilicemos para interactuar con el modelo no serán reutilizados posteriormente para reentrenar el modelo, evitando problemas de fuga y protección de datos.

Consideraciones y recomendaciones

Para hacer un uso responsable de las herramientas de IA en la universidad es crucial reflexionar sobre su impacto ético y social, garantizar la privacidad y seguridad de los datos, y promover una inclusión equitativa. Además, se ha de destacar la importancia de fomentar el pensamiento crítico y la capacidad de adaptación ante los cambios tecnológicos, asegurando que la comunidad universitaria esté preparada para utilizar estas tecnologías de manera efectiva y ética:

  • Privacidad y protección de datos: La información que introducimos en una IAG pública (por ejemplo, chatGPT 3.5) puede ser utilizada para el entrenamiento y aprendizaje del modelo. Pasan a ser datos públicos de los que perdemos el control de su uso. Debemos ser cuidadosos de no aportar datos privados o sensibles de estudiantes ni de la organización. En principio, con Copilot no tendríamos ese problema.
  • Problemas de sesgo: Dado que los datos se procesan de manera masiva se pueden reproducir distorsiones, desviaciones o generalizaciones que provoquen que la información que se genere pueda estar sesgada y se reproduzcan estereotipos no deseados o se caiga en una falta de diversidad.
  • Integridad académica y propiedad intelectual: En la Universidad una de las mayores preocupaciones es el aumento en el riesgo de plagio que puede darse. Se ha probado que las herramientas antiplagio no son capaces de detectar los documentos producidos con IAG ya que, aunque se basen en información que puede ser pública, es un contenido nuevo. Acordar un uso ético de la IA en el aula y cambiar metodologías docentes y de evaluación pueden ser la respuesta a esta problemática.
  • Falta de transparencia: Los modelos utilizados son, por ahora, cajas negras de difícil interpretabilidad. No podemos entender los tipos de razonamiento que pueden llevar a dar una respuesta sobre otra.
  • Veracidad: Estamos obligados a revisar la corrección de las respuestas dadas por la IAG. La creatividad es un valor positivo en ciertos ámbitos de uso de la herramienta. Pero, en otros ámbitos que requieren precisión, se nos presentan como reales respuestas que son completamente fabricadas, las llamadas “alucinaciones”. Esto hace todavía más importante el procesamiento crítico de las respuestas generadas con IAG debiendo revisar y validar siempre cualquier salida.

De manera concisa os dejamos algunas recomendaciones para el uso de estas herramientas en el día a día:

Recomendaciones para toda la comunidad universitaria
  • Consultar las herramientas disponibles en la UHU para el uso de la IAG. Actualmente los miembros de la comunidad universitaria tienen disponible a través de la cuenta corporativa Copilot (antiguo Bing Chat). La principal ventaja de esta herramienta es que protege la privacidad de los datos que se introducen y no se utilizan en el entrenamiento del modelo ni se ceden a terceros.
  • En cualquier caso, sea prudente en el uso de datos de carácter personal o confidencial como registros de estudiantes, datos de investigaciones sin publicar, datos médicos o contenido protegido por derechos de autor.
  • Debe revisar siempre la salida que genera y las posibles referencias que utilice.
Recomendaciones y sugerencias para ​​docentes
  • Prueba las posibilidades de la IAG en la creación de materiales docentes como, por ejemplo, en la creación de resúmenes, elaboración de cuestionarios, mejora en la accesibilidad de materiales, etc.
  • En el caso de utilizar alguna herramienta de IAG hágalo saber a los estudiantes y referencie convenientemente el contenido. Debemos dar ejemplo en el uso de estos recursos.
  • Informe al alumnado del uso que está permitido en su asignatura de herramientas de IAG y las maneras de usarlo, asimismo, advierta sobre las consecuencias del mal uso de estas tecnologías.
  • Fomente la formación del estudiantado en el correcto uso de las tecnologías de IA.
  • Promueva el pensamiento crítico entre el alumnado fomentando el procesamiento de la información generada a través de herramientas de IAG. Para ello, desarrolle o adapte tareas que a partir de los textos generados en herramientas como, por ejemplo, chatGPT, requieran de un análisis crítico y un razonamiento posterior para llegar a los resultados esperados.
  • Diseñe la evaluación de manera que se promueva una evaluación auténtica teniendo en cuenta diferentes tipos de pruebas a lo largo del proceso de enseñanza y aprendizaje e incluyendo algunos modelos distintos del formato escrito en un documento electrónico y favoreciendo la producción oral y el trabajo en clase.
Recomendaciones e ideas para estudiantes
  • Consulta sobre el uso de la IAG que está permitido en cada contexto educativo.
  • Actúa siempre con ética y responsabilidad. El uso de la IAG puede ayudarte en las tareas de aprendizaje pero el objetivo último es alcanzar ese aprendizaje a través del trabajo realizado respetando el código ético de la Universidad en el que no están permitidos el plagio ni la falta de respeto a los derechos de autor.
  • Mejora tus resultados con la IAG aprendiendo a usarla y a comunicarte con ella de manera adecuada. Pero no dejes que piense por ti, si no ejercitas tu cerebro lo acabarás atrofiando.
  • La IAG debe ser usada como una primera aproximación a un problema pero es necesario analizar las respuestas de manera crítica, contrastando la información, para llegar a un resultado creativo que te permita el aprendizaje y evite algunos de los problemas derivados del uso de la IA.
  • Transparencia y honestidad: Es fundamental siempre informar del uso de la IA generativa en caso de que se esté utilizando. También lo es citar siempre de manera adecuada las contribuciones incluidas en tu trabajo incluso en el caso de que estas hayan sido elaboradas con alguna herramienta de IA, solo en el caso en el que el uso de la IA se permita en la asignatura.
  • Repasar errores: Puedes utilizar la IAG para mejorar y ayudarte en algunos de los procedimientos relacionados con tu estudio como, por ejemplo, generar resúmenes, pruebas de autoevaluación, revisión de trabajos, buscar explicaciones de conceptos complejos, etc.
  • Recomendaciones para la docencia con inteligencias artificiales generativas. Dossier Univ. Carlos III de Madrid.
  • Uso educativo de la IA Generativa. Página de recursos de la UNED.
  • Unlocking the power of Generative AI Models and Systems as GPT-4 and ChatGPT for Higher Education. Estudio de la Univ. de Hohemhein.