2018-11-26

Algoritmos, sesgos y decisiones

Robots
Vivimos en un mundo de folklore: la realidad importa menos que las palabras y/o frases que suenan bien en un determinado momento y, casi siempre, sin segundas oportunidades (para reconsiderar nuestras ideas).

Por eso me gustó leer Want Less-Biased Decisions? Use Algorithms. donde se defendía justo lo contrario de lo que es fácil de escuchar/ver ahora: los sesgos de los algoritmos y los programas informáticos (que en algunos casos tienen razón, por el simple hecho de haber sido entrenados con datos y decisiones que ya estaban sesgados).

Enlaza a varios de los artículos que han hablado últimamente de los sesgos y se pregunta por las dudas sobre si realmente los algoritmos son opacos, sesgados y sin responsabilidad sobre las decisiones que se adoptan y si deberíamos preocuparnos:


At the heart of this work is the concern that algorithms are often opaque, biased, and unaccountable tools being wielded in the interests of institutional power. So how worried should we be about the modern ascendance of algorithms?


Los críticos suelen encontrar casos de mal funcionamento y son bastante interesantes, desde el punto de vista de mejorar y evitar los problemas que cualquier tecnología puede presentar, pero ... Raramente contraponen esos resultados con los que se obtenían sin ayuda tecnológica:


But there is a pattern among these critics, which is that they rarely ask how well the systems they analyze would operate without algorithms.


Porque, tal vez, la pregunta no debería ser si tienen sesgos o no. Más bien, tal vez, debería ser si hemos mejorado frente a la situación anterior o no, y si lo que obtenemos es más conveniente (o no).


How do the bias and performance of algorithms compare with the status quo? Rather than simply asking whether algorithms are flawed, we should be asking how these flaws compare with those of human beings.


A mi se me ocurre la analogía con el coche autónomo, donde últimamente se habla de a quién debería matar en caso de accidente, cuando lo cierto es que con humanos esa decisión raramente existiría.

Lo que hacen es revisar la literatura sobre toma de decisiones algorítmicas y ver los resultados y, aparentemente, los algoritmos tienen menos sesgos y toman decisiones más ajustadas que los humanos.


And the existing studies on this topic all have a remarkably similar conclusion: Algorithms are less biased and more accurate than the humans they are replacing.


¿De dónde vienen los sesgos?
Nuevamente, parece que la responsabilidad es humana: entrenamos a los algoritmos decisores con nuestras decisiones del pasado que son, claro, sesgadas.


In each of these case studies, the data scientists did what sounds like an alarming thing: They trained their algorithms on past data that is surely biased by historical prejudices.


Esto no significa que debamos tener fe ciega, y asumir los resultados algorítmicos como buenos: hay que vigilar, comparar con el estado actual de cualquier decisión y tener la mente abierta para decidir cuál es la mejor solución (algorítmica, humana, o una mezcla de ambas).


This is not an argument for algorithmic absolutism or blind faith in the power of statistics. If we find in some instances that algorithms have an unacceptably high degree of bias in comparison with current decision-making processes, then there is no harm done by following the evidence and maintaining the existing paradigm.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

2018-11-26 18:24 | 2 Comentarios | In English, please | En PDF | Para enlazar # |
| Compartir/Share | por correo | en Twitter | en LinkedIn | en Facebook | en Google+ | en Delicious |

Referencias (TrackBacks)

URL de trackback de esta historia http://fernand0.blogalia.com//trackbacks/77657

Comentarios

1
De: Amalio Rey Fecha: 2018-11-30 17:19

El post tiene un enfoque interesante, aunque ya lo conocía. Lo que me parece demasiado rotundo es decir esto: "todos los estudios existentes sobre este tema tienen una conclusión muy similar: los algoritmos son menos sesgados y más precisos que los humanos a los que reemplazan". ¿todos los estudios? ¿a qué llamas "precisos"? porque una cosa es tomar decisiones de números, y otra, que sea una decisión justa. Está claro que los humanos somos sesgados, y eso ya se sabe. Para eso se implementan sistemas que sean transparentes, para que haya igualdad de oportunidades. El problema con los algoritmos es que: 1) son opacos casi siempre, 2) sirven para dar una apariencia de imparcialidad, como si de "matemáticas objetivas" se tratara, cuando ya sabemos que embeben sesgos. Cuando hay humanos, pedimos que nos enseñen el método para elegir. Cuando hay algoritmos, no lo hacemos. He escrito bastante sobre eso: https://www.amaliorey.com/2017/07/22/descubriendo-a-karen-levy-algoritmos-discriminatorios-y-vigilancia-de-refraccion-post-545/
Gracias por el post


2
De: fernand0 Fecha: 2018-12-03 18:02

Yo creo que los algoritmos son opacos en muchas ocasiones, pero los humanos que deciden tampoco son mucho más transparentes. En todo caso, no creo que eso marque la diferencia en uno u otro sentido.
Si las decisiones humanas pueden hacerse transparentes mediante la solicitud adecuada, eso mismo puede ocurrir con las decisiones algorítmicas.

Cuando el banco nos deniega un crédito, lo haga algorítmicamente o mediante personas, raramente tendremos acceso al proceso de decisión que hubo detrás de esa decisión, así que no veo la ventaja de uno frente a otro.
Cuando el policía de turno decide pedirnos el carnet, o pararnos en el aeropuerto, lo mismo. De hecho, en muchos casos, hacen seguir a estas personas procedimientos 'algorítmicos' para evitar sus propios sesgos. En Secondary Security Screening Selection hay un breve comentario sobre la aleatoriedad.

Los humanos también incluyen sesgos, como es natural, así que ese no debería ser -a priori- el criterio para decidirse por un método o por otro, sino qué método proporciona mejores resultados.

Para los interesados el post de Amalio Descubriendo a Karen Levy: algoritmos discriminatorios y vigilancia de refracción (post-545).


<Diciembre 2024
Lu Ma Mi Ju Vi Sa Do
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31