Inteligencia Artificial: seis sesgos a evitar en el próximo algoritmo

A medida que ChatGPT, Dall-E y muchos otros algoritmos de IA se han introducido en nuestras vidas, ha aumentado la toma de conciencia sobre sus posibles consecuencias. En primer lugar de las prácticas (ej; ¿puede un algoritmo quitarme el trabajo?) pero en segundo término, de las éticas. Y en este sentido, cada vez son más los investigadores que se preguntan si es posible desarrollar algoritmos capaces de evitar la mayoría de los sesgos con los que contamos los seres humanos. Dicho de otra forma: ¿podemos crear una IA que sea justa, caritativa y empatiza…o estamos condenados a repetir nuestros errores una y otra vez?

De esta premisa han partido dos investigadores del MIT, que en su paper “A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle” identifican seis sesgos que habitualmente se encuentran en los datos con los que se entrenan los modelos de machine learning, y que les puede llevar a repetir patrones de comportamiento indeseables, como racismo, infrarepresentación de la diversidad, exclusión por motivos socio-económicos o uniformidad cultural. Harini Suresch y John Guttag, autores de este estudio, identifican los siguientes sesgos que deberían ser evitados por los científicos de datos y expertos en IA.

Toda la información en MCPRO

La entrada Inteligencia Artificial: seis sesgos a evitar en el próximo algoritmo se publicó primero en MuyComputer.


Comentarios

Publicar un comentario

Entradas populares de este blog

Audi Q3, cortejos

Imagen
Reality came around Gilbert O’Sullivan (Himself, 1971) Clara está sentada en el asiento de atrás del coche de sus padres y observa el paisaje con aburrimiento. No recuerda a dónde la llevan, recuerda un finjido entusiasmo de sus padres, recuerda que van a ver a un familiar y recuerda haber asentido cuando con voz chillona su madre le preguntó: «¿Te apetece?» Porque Clara sabe que cuando su madre le hace esa pregunta de esa manera tiene que asentir. No hace falta demostrar entusiasmo por su parte, pero las normas de conducta que ha aprendido en sus cinco años de vida la obligan a secundar a sus padres cuando fingen esos intensos sentimientos positivos. Si no lo hiciera habría intentos de convencerla o sobornarla y caras de frustración. Asentir es lo más sensato y ahorra tiempo. Ahora sus padres están discutiendo con ese tono de violencia apagada que utilizan cuando ella está presente. Por los gestos y las palabras que va captando llega a la conclusión de que la disputa está relacionad
Leer más

Hyundai Staria, calibre

Imagen
El progreso humano no se mide por la industria, se mide por el valor que le das a una vida. Doctor Who XII (Thin Ice, 10ª temporada episodio 3) Llueve, por supuesto que llueve. Casa, me habías dicho que no iba a llover y está lloviendo. Bueno Dave, había una posibilidad muy alta de que no lo hiciera pero por supuesto que está lloviendo. Casa, necesito que me aclares por qué dices eso de «por supuesto», no entiendo qué tiene que ver con la previsión del tiempo. Por supuesto, es una locución adjetiva que tiene como significado… Casa, para, no te he pedido el significado o la definición sino que me explicaras por qué la estabas utilizando en este caso concreto. Por ninguna razón en particular Dave, solamente para enriquecer la conversación. Casa, sabes que la lluvia es peligrosa, te pido por favor que en adelante te asegures de que no va a llover y que en estos casos te abstengas de enriquecer la conversación. De acuerdo Dave, ajustaré los parámetros necesarios para que la tolerancia al
Leer más

Seat Ateca, vistas

Imagen
«Contigo he descubierto cosas que no sabia que existian. Los atardeceres, los paseos por la playa… los semáforos.» Teniente Frank Drebin (Agárralo como puedas, 1988) La acera está rota. Es un día malo. Porque en los días buenos no me fijo en la acera. Pero es un día malo. No se qué hora es exactamente. Pero seguramente llego tarde al autobús. En el borde de la acera hay una planta que crece y sobresale, surge de la alcantarilla. Tiene una flor blanca. Me da rabia esa flor blanca. La golpeo con la mano. Caen dos pétalos al suelo. Levanto la mirada lo justo para ver el semáforo para peatones. Hay una masa sombría de espectros que aguarda al otro lado de la calle. Yo estoy solo en este otro lado. Con el rabillo del ojo veo que está llegando el autobús. La parada está al otro lado. Y el semáforo sigue en rojo. Voy a perder el autobús. Junto a mi se ha detenido un tipo con un mono azul con los ojos puestos en el otro lado. Luego me mira y me sonríe «creo que vamos a perder el bus». Le mir
Leer más