En el marco del II Congreso Internacional de Inovación en Administración Pública, participé en el panel titulado Uso de la inteligencia artificial y desafíos éticos en su implementación.
El panel está publicado en YouTube, en el siguiente enlace: https://www.youtube.com/live/yDNw9gndOWg
¿Qué es Inteligencia Artificial?
Campo de investigación de la ciencia computacional que permite desarrollar software con el que las máquinas pueden percibir su entorno y usar aprendizaje para tomar acciones que maximizan su posibilidad de cumplir objetivos.
Técnicas y Ejemplos
- Búsqueda y Optimización: motores de búsqueda
- Clasificadores y aprendizaje automático: visión por computador, clasificación biológica, reconocimiento de texto a mano, puntajes de crédito
- Redes Neuronales y aprendizaje profundo (deep): procesamiento de imágenes, procesamiento de voz, traducción
- Generative pretrained Transformers (GPT): texto sintético
¿Que no es?
No puede generalizar, ni crear, idear nada que esté por fuera de su base de entrenamiento. No piensa.
UNESCO: La Ética de AI.
El documento.
Principios
Hagámos énfasis en:
- Proporcionalidad y no hacer daño: No deben usarse para asignar puntuación social o para vigilancia masiva. https://www.npr.org/2023/12/14/1218643254/israel-is-using-an-ai-system-to-find-targets-in-gaza-experts-say-its-just-the-st
- Justicia y no discriminación: Deben minimizar y no perpetuar la discriminación y prejuicios (bias) AI asked to create images of Black African Doctors
- Sostenibilidad: Evaluación contínua del impacto humano, social, cultural económico y ambiental Microsoft taps three mile island to power AI
- Privacidad y protección de datos: La información personal debe protegerse en la implementaciónAI chatbot blaimed for psychosocial workplace training gaffe at prision
Consumo de Agua
- Una botella de agua por cada email, costos ambientales de los chatbots de AI https://www.washingtonpost.com/technology/2024/09/18/energy-ai-use-electricity-water-data-centers/
- Reduciendo la sed de las IA, descubriendo los secretos de la huella de água de los modelos AI https://arxiv.org/abs/2304.03271
Colapso de la información
Los textos sintéticos extruidos por LLMs degradan la calidad de información https://arxiv.org/abs/2404.03502
Propiedad intelectual en los datos de entrenamiento
- NYT demanda a Microsoft y OpenAI https://www.nytimes.com/2023/12/27/business/media/new-york-times-open-ai-microsoft-lawsuit.html
- Sam Altman y Aaron Swartz, YCombinator en 2005. El primero funda una empresa que actualmente argumenta que puede utilizar el conocimiento humano sin pagar derechos de autor, en búsqueda de un bien superior que no ha demostrado. Aaron compartía artículos científicos, que muchas veces fueron creados por dinero público, pero fue encarcelado, intimidado en una acción judicial que llevaría a su deceso. https://www.ndtv.com/offbeat/throwback-pic-from-2005-featuring-openai-ceo-emmett-shear-and-sam-altman-goes-viral-4591384