La ética de las inteligencias artificiales… y de las naturales

Diría que Aral Balkan no pensaba en lo mismo que yo cuando respondió esto al tuit con la pieza de la BBC, pero eso no va a evitar que lo utilice como introducción de esta entrada. Y es que la pregunta es esencial… y me parece extrañamente ausente del debate creciente sobre el tema.

En primer lugar, aceptar la evidencia: aunque la explosión de noticias en los medios sobre el advenimiento de las inteligencias artificiales salidas directamente de un guión de Hollywood es un tanto exagerada, sí es cierto que cada vez hay más algoritmos que controlan nuestras vidas, y que muchos de ellos carecen de la más mínima transparencia exigible. Si uno quiere leer una historia de miedo verdaderamente aterradora, Machine Bias, publicada a finales de mayo pasado por Propublica, es un excelente lugar por el que comenzar (y si uno sospecha del sesgo humano al hablar de los sesgos de la inteligencia artificial, también podéis leer la pieza a partir de la pieza Inspecting Algorithms for Bias, del MIT Technology Review, un medio absolutamente limpio de sospechas de ludismo). Resumiendo lo de Propublica: analizan los resultados de un software que se está usando en Estados Unidos para asistir en la toma de decisiones judiciales… y resulta ser que es bastante fácil y natural acusar de racista al algoritmo. Y es muy difícil leer la pieza sin escandalizarse bastante. Sin negar la utilidad de usar algoritmos para ayudarnos a tomar decisiones, es absolutamente imprescindible que estos cumplan unos mínimos. En este sentido, a mí personalmente me atrae el Statement on Algorithmic Transparency and Accountability (PDF) de los comités estadounidense y europeo de políticas de la ACM, que establece siete principios para la transparencia y responsabilidad algorítmicas (conciencia, acceso y rectificación, responsabilidad, explicación, origen de datos, auditabilidad y validación y testeo) pero, en cualquier caso, hay mucho trabajo por hacer y corre prisa (y si a alguien le apetece leer más sobre el tema, me permito apuntarle a esta lista de lecturas).

Y una vez dicho esto… ¿qué es lo que echo en falta en el debate? Lo de siempre. Cada vez que criticamos (muchas veces con razón) el fin del mundo que nos trae la innovación tecnológica de turno tendemos, bien a olvidarnos de cómo era la realidad anterior, bien a idealizarla directamente. Y si hablamos de sesgo algorítmico… ¿no deberíamos ligar la conversación a la ya existente sobre los sesgos humanos y preguntarnos, como decía Aral Balkan en su tuit, cómo llevamos la ética los humanos, al tiempo que hablamos de la ética de los algoritmos?

La pregunta me lleva al fantástico libro de Daniel Kahneman Pensar rápido, pensar despacio (que este mes cumple seis añitos ya), y que contiene una colección de sesgos profundamente humanos que no tienen desperdicio y que nos deberían escandalizar también bastante, incluyendo un estudio sobre la correlación entre las decisiones judiciales sobre libertades condicionales y el hambre de los jueces (el 65% de libertades condicionales se concedían justo después de comer: si alguna vez os tienen que conceder —o no— la condicional, haced todo lo posible para no pillar al juez con hambre). Si queréis más ejemplos, a por el libro, que no os defraudará. Y supongo que no hará falta que ponga ningún ejemplo de la capacidad humana para el racismo…

En cualquier caso, y dando por aceptado que estamos muy pero que muy lejos de podernos fiar de las decisiones tomadas de forma algorítmica (si es que alguna vez llegamos a ese punto, que personalmente lo dudo muchísimo)… mi pregunta sin responder es: una vez encontrado un sesgo en un proceso de toma de decisiones, ¿es más fácil corregirlo si el proceso es algorítmico o humano? Y no tengo respuesta.

Cómo declarar una “miniquiebra” en GMail

No todo el mundo es tan desastre como yo gestionando su buzón de correo electrónico como yo, pero tampoco voy a ser el único… ¿Os ha pasado alguna vez que el ‘inbox’ de GMail se os dispara? Páginas y páginas de correo que es imposible que limpiéis nunca. Y, de regalo, un poco de ansiedad cada vez que veis el número de mensajes por leer o la cantidad de mensajes acumulados…

Una solución (parcial y bestia, pero solución) es aceptar que los correos que llevan ahí más de cuatro meses (pongamos por ejemplo) no los vais a llegar a limpiar nunca, y que es mejor archivarlos como buenamente podamos. Y, por tanto, se plantea la pregunta: ¿es posible hacerlo simple y rápidamente? Afortunadamente, la respuesta es que sí, gracias a esos grandes desconocidos que son los operadores de búsqueda de GMail. Y, en especial, el older_than, al que podemos especificar parámetros como 100d si queremos los mensajes de más de 100 días o 4m si lo que queremos son cuatro meses. Si lo combinamos con in:inbox podremos seleccionar, de una sola tacada, todos esos mensajes que hemos aceptado que no limpiaremos de manera sistemática y que nos estresan en el “inbox”:

Mi buzón, después de aplicar la búsqueda older_than:4m in:inbox
La palabra clave es, desde luego, muchas

Una gracia adicional es que si le damos a el “checkbox” de seleccionar todas las entradas GMail selecciona todas las que aparecen en la primera pantalla… pero nos ofrece también la posibilidad de seleccionar todas las que cumplen el criterio de búsqueda:

Después de dar al cuadro para seleccionar todas las conversaciones, GMail nos pregunta si queremos seleccionar no solo las que salen en pantalla, sino todas las que siguen el criterio de búsqueda
Sí. Todas.

Una vez hecho esto, diversas opciones:

  1. Archivar directamente, marcando o no como leídos los mensajes (se puede ser más bestia aún y borrar, claro, pero ante la duda, yo soy un poco más conservador).
  2. Mi opción: etiquetar con un “archivados”, marcar como leídos (o no, de nuevo, a gusto del lector) y archivar.
  3. Añadir niveles de sofisticación: siempre podemos añadir, por ejemplo, un older_than:4m in:inbox label:unread, por ejemplo, para seleccionar los mensajes no leídos y aplicarles a estos una determinada etiqueta (y otra a los label:read, si se quiere) antes de archivarlos. Las posibilidades son casi ilimitadas…

Y, ahora, a intentar mantener el buzón en mejores condiciones.

Porque se ha hecho así toda la vida

Jueves. Madrugón para llegar al aeropuerto. Cruce de neuronas mientras esperas para embarcar. Idea y, como vivimos en los tiempos en que vivimos, en vez de consultar a expertos o buscar en internet, tuiteas…

Tres retuits, siete corazoncitos, seis réplicas. Puedo prometer y prometo que esos no son mis números habituales en Twitter. La cosa, claramente, suscita un cierto interés.

También puedodebo prometer que conozco a algún que otro experto en el tema de la logística a quien preguntar en caso de duda pero, cabezón que es uno, me pongo a buscar por internet y encuentro, sin mucha dificultad, un artículo (de hace nada más y nada menos que diez años), Loading an Airliner Is Rocket Science que exclica que, efectivamente, no voy mal encaminado: a pesar de que la inmensa mayoría de líneas aéreas con que he volado embarca con alguna variedad del método “clase business primero, después el resto del avión de atrás hacia adelante”, hace años que se hace investigación sobre el tema (quién se lo habría imaginado, cualquiera diría que es un asunto en el que potencialmente se pueden ganar millones de euros optimizando recursos) y una de las propuestas más eficientes es el método Wilma que consiste, oh sorpresa, en embarcar ventanas, después asientos del medio y finalmente pasillos. Como me apuntan en las respuestas, hasta hay un episodio de Mythbusters sobre el tema:

Por si nos os apetece seguir el enlace: algo más de 24 minutos con el método de toda la vida, quince con un par de variantes del Wilma y (como confirma la investigación que cita el artículo del Times) casi un minuto menos si embarca primero business y luego el resto sin asiento asignado (el caos aparente, aunque nos parezca terrible, es muy eficiente en muchas ocasiones). Nueve minutos no parecerán tantos, pero si multiplicamos por, pongamos, ciento cincuenta personas por avión, son más de veinte horas persona perdidas cada vez que embarcamos. Y, especialmente en trayectos cortos (estilo Barcelona Baleares), para ciertas líneas aéreas sería la posibilidad de sacarle un vuelo más al día a algún avión. Y eso es una pasta.

¿Por qué seguimos empeñados en hacerlo de una manera claramente no óptima? Los humanos somos cabezones como nadie, incluso ante la evidencia de que estamos malgastando, no sólo recursos de las líneas aéreas, sino, lo que es mucho más importante, nuestro propio tiempo. Y las cosas se hacen, naturalmente, como se han hecho toda la vida. Así nos luce.

GMail 10

Captura de pantalla del mensaje de bienvenida al darse de alta en GMail
It was 10 years ago today…

Pues sí, GMail tiene ya diez años y 20 días (se lanzó el 1 de abril de 2004), pero yo tardé casi tres semanas en obtener mi cuenta, o sea que esta no ha cumplido los diez años hasta hoy. Noventa y pico mil conversaciones más tarde (más, de hecho, que yo soy de los que borra correos) cuánto me costaría sobrevivir sin ese buzón.

Cómo pasa el tiempo…

¿Pueden los hackers ser héroes?


Un vídeo bastante interesante del fantástico Off Book. Los subtítulos en castellano, cortesía de un servidor (se aceptan sugerencias de mejora) :-)