Guía sobre las IA: riesgos y beneficios
Hemos llegado a un cruce de caminos donde hay una estatua metálica con tres caras: la Estatua de las Tres Direcciones. Una se mantiene impasible, la otra sonríe con benevolencia, mientras que la tercera frunce el ceño con severidad. Cada cara apunta en una dirección. Debajo hay letreros que indican los lugares de cada camino.
Esta es una representación de Cira, la diosa de las IA, dice Tuki mientras observa los destinos que señalan los letreros.
¡Qué curioso! Un camino nos llevaría a conocer los beneficios de la inteligencia artificial, como la asistencia en la medicina y la resolución de problemas complejos. El otro, en cambio, está plagado de riesgos, como la propagación de desinformación. Y el tercero no dice nada. ¿Y si seguimos sin indicaciones? Tuki asiente y emite un suave graznido, expresando su acuerdo con la idea.
Eso, sigamos el camino sin información, aunque parece un poco arriesgado.
Desplegar transcripción
Hola soy Andrea Torres de la Fundación para la Libertad de Prensa.
Cómo vimos, la inteligencia artificial generativa se ha convertido en una expresión de moda desde que los gigantes tecnológicos dieron a conocer las aplicaciones para crear textos, imágenes, videos y sonidos solo con escribir algunas palabras clave. Hoy vamos a explicar algunos conceptos clave sobre esta tecnología.
¿Qué es la IA?
La IA es el campo de la ciencia y la ingeniería que se dedica a crear máquinas y sistemas capaces de imitar tareas humanas, como aprender, razonar, resolver problemas y tomar decisiones. A diferencia de otras tecnologías, la IA no solo sigue instrucciones predefinidas, sino que también puede adaptarse y mejorar a partir de los datos y la experiencia. Recientemente, ha surgido un enfoque particular conocido como IA generativa, que ha ganado popularidad gracias al lanzamiento de aplicaciones capaces de responder preguntas o generar imágenes y sonidos a partir de instrucciones básicas.
¿Para qué se utiliza?
La IA tiene numerosas aplicaciones en diversos campos de la sociedad. Por ejemplo, en la industria, ha permitido la automatización y optimización de procesos, así como una mayor colaboración y comunicación. En educación, ha contribuido a personalizar y mejorar el aprendizaje y la evaluación, actuando como asistente tanto para estudiantes como para profesores y profesoras. En el ámbito de la salud, se utiliza para realizar diagnósticos más precisos y promete ampliar la cobertura, mejorar los servicios médicos e impulsar la investigación. Además, la IA tiene un impacto en el medio ambiente al ayudar en la mitigación y adaptación al cambio climático, la conservación de recursos naturales, la gestión eficiente de la energía y la prevención de desastres naturales. También se espera que la IA pueda contribuir a abordar problemas económicos y sociales, como la pobreza y la desigualdad.
¿Cuáles son las preocupaciones asociadas a la Inteligencia Artificial?
Aunque la IA ofrece muchas ventajas, su aparición también genera preocupaciones. Algunas de las más importantes incluyen la posible filtración masiva de datos que ponga en riesgo la privacidad y los derechos de las personas, la vigilancia y manipulación a través del uso de información privada, la generación de nuevas formas de exclusión y sesgos, la pérdida de empleos debido a la reorganización del trabajo, el aumento de la desinformación, la amenaza a la dignidad humana y la autonomía personal, el aumento de las brechas digitales y sociales, el impacto ambiental derivado del alto consumo de energía, así como la capacidad de influir en las creencias y comportamientos humanos. Las y los líderes del sector han advertido que la IA debe considerarse un riesgo existencial.
¿Qué competencias y valores deberíamos desarrollar para interactuar con las IA?
Las IA anticipan desde ya transformaciones que implican un compromiso ético y el desarrollo de habilidades que nos permitan convivir y colaborar con esta tecnología. Algunas de estas competencias y valores son: la alfabetización digital, el pensamiento crítico, la ética centrada en el ser humano, la responsabilidad y la colaboración. En otras palabras, hacer lo que solo los humanos podemos hacer.
¿Qué papel desempeñamos en la gobernabilidad de la IA?
Dado que el desarrollo de la IA influye en todos los aspectos de la vida humana, su gobernabilidad requiere la participación activa de todos los actores sociales. Los gobiernos deben crear marcos regulatorios y éticos para proteger los derechos de las personas, las empresas deben garantizar la calidad y la rendición de cuentas de sus productos, la academia debe generar, difundir y aplicar conocimiento científico y contribuir al debate público sobre los efectos de la IA, y la sociedad civil debe representar los intereses y expectativas de los sectores afectados por su aparición.
En resumen, la inteligencia artificial tiene un impacto significativo del cual aún no somos plenamente conscientes, y dirigir sus posibles usos representa uno de los mayores desafíos para la humanidad. Por lo tanto, es importante familiarizarse con sus beneficios y riesgos potenciales y asegurarse de que las nuevas generaciones desarrollen una capacidad crítica en relación con esta tecnología.
Tips para recordar
Tip 1 – La IA generativa es: una tecnología que aprende, resuelve problemas y toma decisiones, todo ello sin necesidad de instrucciones predefinidas.
Tip 2 – Las aplicaciones de la IA son: desde la industria hasta la salud y el medio ambiente. La IA se utiliza para automatizar procesos, mejorar la educación, ayudar en la salud y abordar desafíos sociales y ambientales.
Tip 3 – Alertas: Aunque la IA ofrece ventajas, también plantea preocupaciones por su amenaza a la privacidad, la manipulación, los sesgos y la influencia en nuestras creencias y comportamientos.
Tip 4 – Qué hacer: Para interactuar con la IA de manera responsable deberíamos conocerlas, desarrollar el pensamiento crítico, la ética y la colaboración.
Tip 5 – Quiénes: La gobernabilidad de la IA, es decir, un uso ético y seguro, requiere la participación activa de todos: gobiernos, empresas, academia y sociedad civil.
Recursos recomendados
Los líderes del sector advierten sobre el ‘riesgo de extinción’ de la inteligencia artificial. (NY Times): Este artículo recoge las preocupaciones de un grupo de líderes de la industria de la inteligencia artificial (IA) que firmó una carta abierta en la que advierten que esta tecnología podría ser una amenaza existencial para la humanidad y que debería ser una prioridad mundial mitigar ese riesgo.
¿Puede la inteligencia artificial realmente llevar a la humanidad a la extinción? (y otras 7 preguntas clave sobre esta tecnología). (BBC Mundo): En esta entrevista, Amparo Alonso Betanzos, una experta en inteligencia artificial, responde a las preguntas más recurrentes sobre la IA.
Un decálogo contra la IA y la industria del engaño. (Contexto y Acción): En forma de decálogo, Contexto y Acción configura una diatriba que señala a la IA como un principal actor en la industria del engaño, y propone formas de resistencia a ella dentro de los medios de comunicación.
Actividad 16 - Una entrevista con IA
En este taller vamos a entrevistar a una inteligencia artificial, que puede ser el Chat GPT o Bing. Estas herramientas usan algoritmos de aprendizaje profundo para generar respuestas coherentes y relevantes a partir de un texto de entrada. Vamos a ver qué tan bien pueden conversar con nosotros, qué tipo de información nos pueden dar y qué limitaciones tienen.
Vera y Tuki sienten el cansancio de su viaje y la nostalgia de su hogar. Pero antes de regresar, les queda un último sitio por conocer: un edificio de cúpulas de cristal que brilla con luz propia. Allí, encontrarán una ayuda para su retorno… ¡Descubramos de qué se trata!