TED

¿Existe fe ciega en los #algoritmos que usan #BigData? #data

Posted on

¿Existe una fe ciega en los algoritmos de datos? Vaya por delante que ahora pienso que si. Después de ver la Ted talk de Cathy O’Neil: “The era of blind faith in big data must end”, que me hizo reflexionar bastante.

Creo que hemos entrado en una vorágine de definir algoritmos que usan BigData, los usamos para todo, confiamos en sus resultados, creo que un poco a la ligera a veces.  Algunos afirman que incluso ¡podrán predecir el futuro! carai. Tengo  que reconocer, que yo, como tecnóloga que soy, me he dejado llevar por esta especie de euforia sobre los datos, pero esta charla de Cathy me ha puesto un poco los pies en  el suelo.

La verdad es que son muy emocionantes los resultados que podemos obtener con los datos, pero es cierto que pueden ser un arma (y muy poderosa) de doble filo.

Debemos manejar los datos, ¡pero no que los datos nos manejen a nosotros o que éstos puedan decidir sobre nuestro futuro!, porque entonces, claro que pueden predecir el futuro, porque el futuro lo guiarán sus resultados.

¿Qué define el éxito de un algoritmo? pues eso, una fórmula secreta que al final un humano ha diseñado, cierto que puede evolucionar, pero evolucionan sobre un patrón, sobre lo que ha sucedido en el pasado, automatizan el status quo, y los patrones, ya sabemos, cambian, lo que ha sido válido en el pasado o es  válido actualmente, puede dejar de serlo, no podemos confiar  ciegamente en el algoritmo porque… ¿y si falla?, puede crear una gran injusticia incluso a nivel social y no hablamos ya solamente de un algoritmo mal diseñado, los datos de los que se nutre pueden estar mal, estar sesgados o no ser de fuentes confiables. Y no hablemos ya  si es un algoritmo para el ámbito de la salud, ¿podría un algoritmo que funcione mal o estar mal diseñado llegar a matar a una persona? bueno, no nos pongamos tan catastrofistas, pero si debe ser un toque de alerta y en eso estoy de acuerdo con Cathy.

El ejemplo que pone en el vídeo, de una cadena de Fox News que buscó empleados exitosos basándose en su historia de ascensos, donde el directivo no era que digamos muy proclive a promocionar mujeres. Entonces, si evaluamos el éxito de un  empleado en, por ejemplo, su número de ascensos, el algoritmo así diseñado excluiría a las mujeres, ¿se creó un algoritmo sexista? bueno, el algoritmo solamente tenía un mal diseño porque la definición de éxito era errónea.

Puede ser que un algoritmo esté mal diseñado durante mucho tiempo y que nadie se dé cuenta. Me hizo mucha gracia (o no) este chiste que encontré por la red:

chiste_data

Da un poco de escalofrío, en según que ámbito estemos hablando, ¿no?…

Así los datos utilizados pueden ser sesgados, por ejemplo, si nos fijamos en  la  eterna discusión sobre los rankings universitarios ¿qué la información está sesgada? por supuesto, pero si lo sabemos y lo asumimos, no es tan grave. Así, no hemos de ver los rankings como verdades absolutas, sino como una guía, una recomendación, una herramienta más que podemos utilizar para la toma de decisiones, dentro de una valoración o evaluación más amplia.

Pero no todo son malas noticias. Los algoritmos de datos realmente han llegado para quedarse, lo que hay que decidir es el uso que hacemos de  ellos. Nunca deberían ser prejuicios que inyectamos a los algoritmos basados en prácticas pasadas, tenemos que revisarlos, interrogarlos y mejorarlos (y esta mejora  debe ser continua y dirigida) y sus resultados no se deben tomar al pie de la letra, sino que deben ser interpretados y evaluados y  nunca deberían ser un  indicador único para la toma de decisiones.

No obstante, nos pueden facilitar, y mucho, la vida,  nos ayudan a “digerir” este universo de datos en el que estamos inmersos,   pueden limpiar, depurar y ordenar la información para dárnosla más trabajada. Más allá de eso, la verdad es que da un poco de miedo. 🙂

 

Anuncios

TEDxBarcelona 2016

Posted on Actualizado enn

img_20161007_160910

El pasado viernes 7 de octubre, decidí asistir a un evento un poco diferente a los que estoy acostumbrada, la verdad es que nunca había asistido antes a un evento TED, aunque sí que había visto muchas charlas por Internet.

Me llamó la atención el formato que tenía y lo innovador que parecía. La verdad es que no me decepcionó y oí unas charlas muy interesantes, bastantes de ellas centradas en la movilidad en una ciudad como Barcelona, así se habló de compartir coche eléctrico, parking para bicicletas particulares, etc.. También se habló del concepto de jardines virtuales o como crear pequeños trozos de naturaleza en las ciudades, que me encantó.

Por otro lado, me pareció superinteresante la charla de Iván Ostrowicz sobre el aprendizaje personalizado, en el que también hizo una pequeña crítica sobre los MOOCS y el porque tienen un nivel de abandono tan alto. En resumen, que no todos aprendemos igual y, por lo tanto, no se nos debería enseñar igual, me gustó.

Por otro lado, también me gustó mucho la charla del físico teórico (que no era Sheldon Cooper, :-)) Antonio Acín, sobre ordenadores cuánticos que, dentro de la complejidad que tiene la física cuántica, creo que lo explicó muy bien, al final, te quedas con lo del Gato de Schrodinger…vamos que sí, que nos tenemos que creer como funcionan y al final saber que superarán los límites de computación de los ordenadores actuales.

Otro tema muy interesante fue la charla de una Biohacker, Núria Conde. Hasta entonces no sabía lo que era un biohacker y me pareció un concepto, a priori extraño, pero curioso. Se trata de un grupo de gente que crea aparatos y gadgets básicamente para aplicarse a la biología y luego lo sube a la red, es decir, podría equiparse a lo que es Arduino para la informática, es como un OpenSource de la biología.

También comentar que se realizó el primer concurso de TEDxAwards donde fuimos nosotros, el público, a través de nuestros aplausos los que decidimos cuál era la mejor propuesta innovadora de tres finalistas que se presentaron. La verdad es que las 3 eran muy interesantes, pero al final, aunque yo aplaudí mucho una propuesta de compartir coche eléctrico, ganó otra que también me gustó mucho que era una apps (mapp4all) que te permite ir haciendo mejoras en la accesibilidad en la ciudad.

Entre todas estas charlas, huboimg_20161007_171528 una pausa para poder dar un paseo por una feria que se había instalado fuera, donde había variados expositores, Startups o pequeñas empresas con iniciativas innovadoras, así me pude probar por primera vez unas gafas de realidad virtual y jugar con ellas, también pude interactuar con unos pequeños animalitos que reaccionaban con el tacto, que sobretodo se utilizan para niños con problemas, como puede ser autismo, etc, e incluso pueden enviar esas interacciones a Internet para que, por ejemplo, un médico pueda hacer un seguimiento. ¡Te encariñabas rápido con ellos!

También estaba Núria Conde (la Biohacker), mostrando los gadgets de los que había hablado en su presentación, un dron con forma de pájaro que, una vez volando no podías diferenciar demasiado de uno de verdad y varias innovaciones más que la verdad me resultaron muy entretenidas.

Fue una tarde diferente y entretenida y la verdad me pareció muy bueno el formato de estas charlas, creo que, si puedo, ¡no será a la última vez que asista a un evento de este tipo!