La neutralidad de la IA: ¿Es realmente neutra?

Con los artículos leídos y los debates que han surgido en el aula, una pregunta destacó y nos llevó a reflexionar como grupo. ¿Es la Inteligencia Artificial (en adelante, IA) neutra? Es muy común la creencia de que así es, puesto que es un organismo tecnológico y no debería mostrar sesgos ni pizca alguna de subjetividad; pero la realidad es que esa tecnología está programada por personas humanas, y es obvio que, de una forma u otra van a dejar parte de sus opiniones en los comandos y los algoritmos que hacen funcionar esa inteligencia. 

En mi caso y en el de alguna compañera más, nos picó la curiosidad y quisimos probar esta tesis preguntándole a ChatGPT por algunos temas controversiales, y así comprobar si nos daba únicamente datos objetivos o si, por el contrario, dejaba algunas opiniones entre los datos que nos aportaba. Por ejemplo, yo le pregunté qué opinaba sobre las agresiones entre Israel y Palestina, y aunque en un principio intentaba aportar datos sacados de artículos o declaraciones de los altos cargos, tras preguntarle e insinuar que más que neutra, era tibia, llegó un momento en el que se posicionó en contra del abuso de poder que ejerce Israel sobre el pueblo palestino. 

Esto solo me lleva a pensar que la neutralidad en la IA no es más que un Efecto Mandela, puesto que con un par de preguntas a la herramienta más utilizada en el mundo a día de hoy, conseguí llegar al punto que quería para probar mi teoría. 

No me malinterpretéis, me parece totalmente normal y lícito que este tipo de instrumentos estén sesgados. Al fin y al cabo, lo que está moviendo el mundo a día de hoy es la tecnología y todas las prestaciones que esta tiene (solo hay que echar un vistazo a la reciente investidura de Donald Trump para ver cuál es el sector elitista en la sociedad), pero debería haber un control sobre aquello que se programa en la IA, ya que puede difundir un mensaje verdaderamente peligroso; al fin y al cabo, un gran número de usuarios/as son niños/as y adolescentes, y no tienen una personalidad ni una ideología establecida. 

En resumen, creo que la IA nunca ha sido neutra, y creo que toda la comunidad (tanto educativa como no educativa) debería ser consciente de esto, ir con pies de plomo y tratar estos temas abiertamente. Solo se puede promover un uso correcto de la tecnología dando ejemplo y permitiendo a los demás reflexionar e interactuar.