Los problemas de la IAg para la universidad. O no

Porque todos hemos leído poco sobre el tema (no) y faltaban mis «dos céntimos» sobre el tema (tampoco, pero cuándo me ha supuesto eso a mí un problema). Me temo que lo que se viene a continuación es barroco y largo (y eso que ha pasado por un pequeño proceso de edición).

El «TLDR»: como prácticamente cada cambio más o menos revolucionario que hemos tenido en las últimas décadas, la IA generativa ha venido, sobre todo, a amplificar problemas que ya existían (como mínimo en las tres décadas anteriores, que son las que he presenciado yo en vivo y en directo, y me atrevo a aventurar que unas cuantas más) y que el sistema hacía todo lo posible por ignorar. Hasta ahora hemos ido sobreviviendo, más o menos, a los palos anteriores, por algún extraño milagro (no es tan extraño, ni milagroso, pero permitidme el abuso de notación). Y con la IAg a los políticos y demás responsables del sistema se les va a llenar la boca de discurso vacuo, vamos a atacar con fuerza y gran dispendio de recursos toda una serie de síntomas y vamos a seguir ignorando muy fuerte los aspectos [que a mí me parece] que son la verdadera fuente de los males del sistema.

(Antes de seguir, para quienes queráis pasar más allá del TLDR, a pesar de mis advertencias, recomiendo encarecidamente la lectura de Instituciones no educadoras e IA y Universidad: el urgente cambio sistémico en la política de educación superior, de Ismael Peña, que es lo que ha disparado este texto (ya tenéis culpable, yo no quería, me han obligado 😬), y quizás un poco más, todavía, La inminente crisis de credibilidad de la universidad y Rediseñar la evaluación cuando el estudiante usa IA generativa, de Juan Freire. Lo mío son mis dos céntimos a partir de mi muy anecdótica experiencia personal, y lo suyo, sus dos euros. Tampoco son breves, pero sí muchísimo más claros.)

Arranco con un par de apuntes que, en la línea que apuntaba mi TLDR, tienen muy poco que ver con la IA.

«Pero si tú lo entiendes»

Esa es una frase que me dijeron en algún momento de la década de los noventa, y que se me quedó grabada a fuego. Servidor no era, reconozcámoslo, un buen estudiante para la carrera de matemáticas. Y no fueron pocas las revisiones de examen a las que fui. Y la frase me la dijo a mí un profe en una de ellas (de análisis complejo iba la cosa). La nota que me llevó a la revisión del examen me la había ganado yo por méritos propios. Pero la frase es una de las críticas más salvajes al sistema que haya oído yo nunca. Porque además del implícito obvio «y estás en la revisión del examen porque te ha ido como te ha ido, a pesar de entenderlo», había otro implícito más: «y hay gente que no ha venido a la revisión de examen porque no les ha hecho falta, aunque que no lo entienden (o al menos lo entienden menos que tú)».

Podría rescatar algunas anécdotas más que apuntan cómo, en una carrera de matemáticas, la reina del «pensar por encima de memorizar», ya por entonces, en la práctica, «memorizar sin entender una palabra» era un mecanismo perfectamente válido para superar exámenes (de hecho, las voy a esconder en un par de notas al pie, recomendadas solo para los muy adictos 1,2).

Y esto, insisto, pasaba en los noventa. Mucho antes de Bolonia, que es el objetivo al que muchas veces se señala como culpable de los males actuales de la universidad (al menos en España). No seré yo quien defienda Bolonia. No sé si los males que ha acabado trayendo estaban ya en sus palabras, o si ha sido el sistema el que ha pervertido sus nobles intenciones, pero, en cualquier caso, los ha traído. Pero algunos de los males de los que se le acusa ya estaban ahí antes. Puedo dar fe de ello.

«Capacidad de resolución de problemas» vs «memorización»

Sigo con cosas que poco tienen que ver con la IA.

En este país (imagino que en muchos otros también) nos vendieron hace unos años (y nos siguen vendiendo) que había que conseguir que en la educación primaria y secundaria perdiese peso la memorización y lo ganase la capacidad de resolver problemas (resumiéndolo de manera extrema y burda, sí). Y con ese nobilísimo ejercicio hemos tenido reformas, reformitas y contrareformas. Pero.

En la práctica (aquí es donde me voy a mi extremadamente anecdótica experiencia), con lo que me encuentro yo en las clases que doy en «la uni de toda la vida», la de pizarra (proyector y powerpoint las más de las veces, sí) y fila tras fila de estudiantes, ese cambio de peso no es tal. Mis estudiantes (que se portan mejor de lo que se portaba mi grupo, en mi experiencia, y que asisten bastante a clase, debo decir), de primero de una carrera que tiene una nota de corte medianamente alta, y de los que voy a asumir que no son ni mucho más listos ni mucho más tontos que mi grupo, son, al salir de la formación secundaria, maquinitas de memorizar y ejecutar algoritmos a mano, mientras que pensar y resolver problemas les causa bastantes más… problemas, valga la redundancia. ¿Puede ser un sesgo de la muestra? Comienzan a ser años de experiencia, o sea que diría que no. ¿Podría ser que sea yo un cincuentón gruñón quejándose de la siguiente generación? Algo de eso tiene que haber, por fuerza. ¿Podría ser que no sea yo muy buen profe? Absolutamente. Pero os va a costar convencerme de que las reformas hayan hecho lo que decían pretender. Os va a costar mucho.

¿Cómo pretendíamos que aprendiesen los estudiantes hasta ahora?

Describo brevemente mi caso particular. Yo llevo unos añitos dando diez semanas al año de clases de teoría y prácticas de teoría de grafos de una asignatura dentro de un grado de ingeniería de datos, con chicos y chicas majérrimos3 en lo general, por cierto.

En la asignatura, el objetivo es que entiendan qué es un grafo, que con grafos se pueden modelar problemas reales sumamente interesantes (redes sociales, epidemiología, el algoritmo de enrutado de Google Maps, por mencionar solo tres), cómo funcionan algunos de los algoritmos básicos de grafos, que entiendan que si se puede resolver a mano, el problema no tiene ningún interés más que como ejercicio de clase, que programen alguno de esos algoritmos básicos, y que sepan que hay bibliotecas con prácticamente todos los algoritmos de la teoría de grafos, y que la verdadera gracia de todo está en aprender a modelizar el problema para resolverlo tirando de esas bibliotecas.

¿Cómo funcionamos? Dos horas de teoría a la semana, en las que uno intenta que no se aburran en exceso viendo todas estas cosas, una hora de problemas (que no doy yo) que es… una hora de problemas al uso, en la que se intenta animarles a que trabajen con antelación y que la clase sea un espacio de resolución de dudas, y una de prácticas, en la que se les plantean problemas a resolver programando (tanto en la hora de problemas como en la de prácticas se les divide en grupos para poder atenderles algo mejor) que resuelven a lo largo de múltiples semanas. No nos van a dar un premio a la innovación docente, pero sí hacemos el esfuerzo de plantear clases dinámicas, al menos un poco participativas (cada semestre a alguien se le ocurre el DFS, me alegra comunicar, por ejemplo), y en las que se resuelven problemas que están conectados con la vida real.

¿Qué esperamos con esto? Que con las explicaciones de teoría, los problemas que se resuelven en la pizarra y, sobre todo, el esfuerzo de intentar resolver los problemas que se les plantean y de pelearse con Python para atacar los retos algo más complejos a los que les enfrentamos, las telarañas que les ha acumulado el sistema educativo en el cerebro se desvanezcan al menos un poco, y adquieran los conocimientos y competencias (ahora les llamamos resultados de aprendizaje) de la asignatura, estén en condiciones de enfrentarse con las siguientes asignaturas del grado, se acerquen un poco a ser las ingenieras que vamos a necesitar en el futuro, y puedan acceder al mercado laboral en condiciones.

Si quitamos cuatro detalles4, básicamente lo que habríamos hecho cuando yo estaba en el otro lado del aula, si el profe era medianamente bueno y le echaba ganas, que por aquel entonces lo de hacer participar al estudiantado, y el aprendizaje activo y estas cosas, al fin y al cabo, ya se predicaban.

(Quiero pensar que pertenezco a la categoría de «profe medianamente bueno que le echa ganas», pero mejor preguntar a mis estudiantes.)

¿Y la IAg?

¿Usan los estudiantes la IAg como yo no quiero que la usen, con el objetivo de aprobar sin estudiar? Sí, claro. Exactamente igual que la hubiesen / hubiésemos utilizado los estudiantes de mi generación si la hubiésemos tenido a mano.

¿Cómo no quiero que la usen? Los problemas y prácticas que les ponemos están pensados para que se puedan resolver con un cierto esfuerzo, y para que en el proceso de intentarlo adquieran la práctica y las estrategias de resolución de problemas que, primero, les llevarán a aprobar la asignatura y, segundo y mucho más importante, les convertirán, poco a poco, en profesionales comme il faut.

En la práctica, los enunciados de esos problemas y prácticas, pensados para las estudiantes de primer año, son lo suficientemente fáciles como para que los resuelva cualquier bot de IA medianamente competente. Si caen en la tentación de encargarle el trabajo al chatbot, lo de adquirir estrategias, competencias y demás, se va directo al garete. Y si los estudiantes que caen en la tentación son lo suficientemente buenos haciéndome/se trampas, es bastante probable que aprueben la asignatura. Lo de aprender, ya si eso, otro día5.

¿Puedo yo plantearles problemas que no resuelvan los chatbots? Claro que sí. ¿Haciendo que esos problemas sigan siendo del nivel competencial de mis estudiantes? ¿Sin que necesiten mucho más acompañamiento del que les doy ahora mismo, que es el que me pagan? Podría ser, pero prometo que llevo una buena temporada dándole vueltas al tema, y no se me ha ocurrido el cómo. Las respuestas que he visto hasta ahora a ese reto pasan por estudiantes que te llegan con las capacidades que espera (pero en absoluto garantiza) el sistema, y por muchas más horas de atención del profesorado que las que paga el sistema.

(¿Hay usos buenos de los chatbots? Desde luego. «Explícame este algoritmo de otra forma», «plantea y da los pasos para resolver diez ejercicios de este tema o de este otro», «ponme problemas que se puedan resolver usando estos algoritmos». Cosas que, naturalmente, me pueden pedir a mí (y les atenderé encantado, claro), pero el chatbot lo hace al segundo y, en la práctica, para mi asignatura, lo hace estupendamente.)

¿Y cómo atiendo / evalúo yo?

Volviendo al problema inicial. De hecho, la solución la tengo. O creo tenerla, vaya. Lástima que sea una vaca esférica, ahora mismo.

El examen que estoy proponiendo yo ahora mismo para evaluar, que es el factor de mayor peso en la evaluación (aunque suma menos del 50% del total), consiste en dos horas en que los estudiantes trabajan duramente, y yo después dedico cinco o diez minutillos a evaluar cada examen. Cada estudiante le dedica dos horas a ser evaluado, y yo me paso esas dos primeras horas vigilando y resolviendo (elaborar el enunciado tiene su trabajo también, pero no entraremos en eso ahora) y luego, para unos 50 estudiantes, por ejemplo, unas seis horas corrigiendo y poniendo notas. Ocho horas, más o menos.

¿Qué creo que debería pasar ahora? Que los estudiantes deberían ver el enunciado (otro enunciado, algo diferente), disponer de una horita para trabajarlo y, después pasarse… ¿veinte, treinta, cuarenta? minutos hablando conmigo sobre ese trabajo que han hecho. Pongamos que veinticinco minutos por estudiante. Me queda una hora vigilando… y, redondeando, veinte horas más. Y claro, mis estudiantes no pueden encontrarse por primera vez con la experiencia traumática de tener que explicarme sus razonamientos y defender sus argumentos el día del examen. O sea que habría que hacer algún simulacro antes. O dos. Cuarenta horas más6.

Y claro, esto aplica también a los ejercicios evaluables que les ponemos y a la evaluación de las prácticas que realizan.

¿Tres, cuatro, cinco, ocho veces más trabajo?

¿Se merecen mis estudiantes que dedique yo ese tiempo a evaluar su aprendizaje? La respuesta es que, [insert expletive here], sí. Y más. Se lo merecían antes de la IA. Me lo merecía yo en los noventa. ¿Me salen a mí los números con lo que me pagan? Ni en broma. ¿Le saldrían las cuentas al sistema, con el dinero que puede / está dispuesto a invertir? Ni en broma.

Pero es que el problema principal no es ese

(Se debe haber escrito mucho sobre el tema, pero fuera de lo que leo yo habitualmente. Se agradecerán todo tipo de ayudas en ese sentido.)

El problema es qué enseño, cuáles son los conocimientos, las habilidades y competencias que deben adquirir mis estudiantes, tanto para ser profesionales válidas para el mercado laboral como para poder contribuir a la investigación, desde la universidad o desde las (pocas) empresas que saben que la investigación es esencial. Y yo no tengo ni idea. Y cada vez que escucho a alguien que dice, con mucho aplomo, tener la solución, me da la risa-por-no-llorar. Y ahora mismo lo urgente (el tema de las trampas) está ocupando todo el espacio, sin dejar ni un resquicio para lo importante.

¿Es este problema nuevo? Noparanada. La universidad siempre ha ido por detrás (y en ocasiones, además, esto no solo no es malo, sino que puede ser bueno y todo). Pero si en 2016 (y en 2006, y en 1996, y seguramente mucho antes) esto ya era un problema grave, ahora lo es muchísimo más. Y urgente, también. Pero no os preocupéis, que lo que decía al principio, que vamos a dedicar muchos recursos a tratar los síntomas y a ignorar la enfermedad, ya está pasando y va a seguir haciéndolo. Eterna gloria al sistema.

Y lo descansado que me he quedado yo con mis tropecientas palabras para describir el problema y solo apuntar una solución impracticable, oiga.


1 La primera anécdota es un conjuro mágico: «El conjunto es medible porque es una unión numerable de conjuntos de medida cero, que son a su vez medibles, y toda unión numerable de conjuntos medibles es medible». Esas palabras mágicas fueron, durante años (con un poco de relleno, pero no mucho, lo aseguro), los dos puntos y medio que sacábamos todos en el examen de Análisis II. Las entendieses o no. ↫

2 La segunda fórmula mágica, «DE, DIP, DEFEÚ«, esta vez con un relleno de unas cuantas densísimas páginas a memorizar, representaba dos puntos y medio del examen de Álgebra III. Las entendieses o no. (Que todo dominio euclidiano es de ideales principales, y que todo DIP es un dominio de factorización única, por cierto, es una cosa maravillosa. Excepto si te fallan los fundamentos y te van a examinar de Álgebra III. En ese caso son unas cuantas páginas de embrujos a memorizar y poco más.) ↫

3 Off topic salvaje. ¿Que por qué defiendo yo tanto LanguageTool? Me acaba de no subrayar en rojo majérrimo. Yo ya no sé qué hacer para convenceros. ↫

4 Los detalles: la existencia de bibliotecas de funciones (como NetworkX en el caso de Python), por un lado, y, por el otro, unos pocos miles de veces más potencia de los ordenadores que usan en las prácticas (esto es, resolver en segundos lo que antes costaba horas, que no es poca cosa). ↫

5 Que esto no es nuevo, ¿eh? La combinación de Google y Stack Overflow ya contenía todas las respuestas. Y siempre se ha podido copiar de un amigo. Solo ha cambiado que ahora es mucho más fácil, y más cuando cada vez, y por múltiples y muy razonables motivos, usamos la evaluación continua, con trabajos que los estudiantes hacen en su casa. ↫

6 No vamos a hablar de que evaluar a los estudiantes «en serie» supone problemas y que habría que hacerlo «en paralelo», pero eso lo podríamos llegar a solucionar repartiendo trabajo. ↫

Una tesis

Pues parece que, de ahora en adelante, ya podremos decir que servidor es doctor en e-learning, con la tesis Design and development of a learning analytics tool for the analysis of video learning resources in small-scale learning scenarios. Por si alguien tiene mucho insomnio, aquí la tenéis:

Toca dar las gracias a toda la gente que ha puesto su granito de arena (la contribución de algunos, y algunas, se mide en hormigoneras) para llegar hasta aquí, comenzando por mis directores Anna y Germán, y mi primera directora, María Antonia (uno ha tardado tanto con esto que se ha jubilado, y por eso no figura en la portada). En la página de agradecimientos hay unos cuantos nombres más, y la lista es tan larga como para no caber ahí ni en broma.

Si alguien quiere saber más, la idea es que cada vez utilizamos más recursos de aprendizaje en vídeo, que en algunos casos están sustituyendo a las clases «de toda la vida». Y con ese paso ganamos muchas cosas, pero también perdemos: la profe deja de tener delante a los alumnos, y se pierde indicadores visuales sobre cómo están entendiendo (o no) estos últimos las explicaciones. Esos indicadores no los vamos a recuperar, pero tenemos otros que quizás convendría explotar: esos estudiantes pausan los vídeos y saltan adelante y atrás por ellos, mucho más de lo que creeríais (y más cosas: aceleran y ralentizan su reproducción, por ejemplo). ¿Y si eso nos pudiese servir para entender mejor, y mejorar, los procesos de enseñanza y aprendizaje? Para seguir con el tema, me temo que os vais a tener que leer la introducción del PDF que tenéis incrustado aquí arriba.

Se trata de una tesis modesta, pero, quién sabe, igual pone su granito de arena (repito metáfora, lo sé) para que en algún momento el aprendizaje a través de recursos en formato vídeo mejore un poco 🤞.

Cómo evitar el contenido sugerido en Instagram

Nota para los ¿tres? ¿cuatro? lectores habituales de obm. Creo que nunca he escrito un post tan poco adecuado para vosotros. Mis disculpas 🙏. Mi única excusa es la voluntad de servicio público. Lo juro. En breve retomamos la actividad habitual (otro dichoso post con la Byte de hace cuarenta años, sí).

¿Por qué esta entrada? Uno tiene la teoría de que, de hecho, usar las redes sociales, aunque sean de Meta, tampoco es malo… mientras no se deje uno llevar por el algoritmo de recomendación, que está ahí para maximizar esa cosa perversa del engagement. Y el convencimiento de que somos pocos, muy pocos, los que somos conscientes de que a la que te descuides Meta va a volver a activarte el algoritmo aunque tú le hayas dicho explícitamente cien veces que no lo quieres (No tengo excesivos problemas con que las redes sociales me muestren publicidad dentro de unos límites. Debe ser genético). Pero me da la impresión de que soy de los poquísimos locos que se obstina, cada treinta días, cuando Instagram (con la misma obstinación, debe decirse) decide ignorar mis preferencias, se lanza a decirle que deje de dar por saco otros treinta días más. El algoritmo no se rendirá, pero yo tampoco. Llamadme Sísifo. De hecho, el día, hace ya unos cuantos años, en que la actualización de la app de Facebook me escondió de más la opción de limitar las sugerencias algorítmicas… me la desinstalé (y desde entonces debo entrar una vez cada dos o tres meses, y aunque hay gente que echo de menos, parece que no ha habido grandes daños por ello).

En cualquier caso. Para evitar el contenido sugerido en Instagram…

En primer lugar abrimos la app y, en la parte inferior hacemos clic en nuestro avatar:

Captura de pantalla de la página de inicio de la app de Instagram para Android.

Esto os llevará a vuestro perfil. Ahí toca hacer clic en las tres líneas, el dichoso «menú hamburguesa»:

Mi página de perfil en Instagram.

…con lo que llegaréis a la configuración:

Página de configuración y actividad. Ofrece las siguientes opciones: búsqueda, centro de cuentas, guardado, archivo, tu actividad, notificaciones, administración del tiempo, privacidad de la cuenta, mejores amigos... Hay más opciones disponibles haciendo scroll.

…y haciendo clic en «Tu actividad» llegaréis a

Página Tu actividad. Ofrece las opciones Publicaciones, Reels, Lo más destacado, No me interesa, Me interesa, Tiempo invertido, Historial de la cuenta, Búsquedas recientes, Transferir información, Descargar tu información

Aprovechando que ya estáis aquí, igual es conveniente que le deis a «Tiempo invertido» y os escandalicéis un poco (o no) con vuestros números. Aquí los míos:

Página de administración del tiempo. En mi caso, da una media de quince minutos de uso diario

(Sí, podéis establecer un límite diario de uso. Y hasta puede que ayude. Pero es tan fácil saltárselo…)

Volviendo atrás, podéis ir bajando hasta que os aparezca «Lo que tú ves»:

Página de configuración de actividad. Ahora muestra las opciones Limitar interacciones, Palabras filtradas, Seguir e invitar a amigos, Favoritos, Cuentas silenciadas, Preferencias de contenido, Recuentos de Me gusta y veces que se ha compartido, Suscripciones, Permisos del dispositivo, Archivo y descarga, Accesibilidad y traducciones

Y si hacéis clic en «Preferencias de contenido», llegaréis a

Página de preferencias de contenido. Ofrece las opciones Me interesa, No me interesa, Palabras y frases específicas, Contenido sensible, Contenido político, Pausar publicaciones sugeridas en el feed y Restablecer sugerencias de contenido

… y aquí es donde, dándole a «Pausar publicaciones sugeridas en el feed» os libraréis de los contenidos que solo están ahí para engancharos (hasta que pasen los treinta días de gracia, claro).

De nada.

Amazon, los incrustados de WordPress y… kp0a0-21

Me acabo de dar cuenta de que si usas los incrustados de WordPress con un enlace a Amazon, automáticamente les inserta un tag=kp0a0-21 a la URL (o como mínimo me lo hace a mí), y que si la URL que le pegas ya tenía un tag propio, lo sustituye por este… El único uso que conozco yo para el tag en una URL de Amazon es su programa de afiliados, por el que se paga una pequeña comisión a quien promociona el producto que sea a través de un enlace, sin encarecer el producto para quien lo adquiere. Servidor tiene su propio tag (obm-21), que le genera unos «espectaculares» diez o quince euros al año, y acabo de comprobar que al pegar un enlace como https://www.amazon.es/Nada-Volumen-Independiente-Carmen-Laforet-ebook/dp/B009I2UCZ4?&linkCode=ll1&tag=obm-21&linkId=f1552e692fcbcb21b42ab29bfddf52f2&language=es_ES&ref_=as_li_ss_tl el incrustado se come mi tag y lo cambia por el ya mencionado kp0a0-21 😮. Diría que no es ninguno de los plug-ins que le tengo instalado a WordPress, y que no hay ninguna opción para cambiar el comportamiento.

Si el enlace le genera algún beneficio a WordPress.org, no le vería demasiado problema… si se informase bien del tema (y siempre queda la opción, naturalmente, de pasar del incrustado automático). En fin. Lo dejo aquí por si alguien es más capaz de obtener información al respecto que yo (o es alguna obviedad que se me haya pasado por alto, claro).

La ética de las inteligencias artificiales… y de las naturales

Diría que Aral Balkan no pensaba en lo mismo que yo cuando respondió esto al tuit con la pieza de la BBC, pero eso no va a evitar que lo utilice como introducción de esta entrada. Y es que la pregunta es esencial… y me parece extrañamente ausente del debate creciente sobre el tema.

En primer lugar, aceptar la evidencia: aunque la explosión de noticias en los medios sobre el advenimiento de las inteligencias artificiales salidas directamente de un guión de Hollywood es un tanto exagerada, sí es cierto que cada vez hay más algoritmos que controlan nuestras vidas, y que muchos de ellos carecen de la más mínima transparencia exigible. Si uno quiere leer una historia de miedo verdaderamente aterradora, Machine Bias, publicada a finales de mayo pasado por Propublica, es un excelente lugar por el que comenzar (y si uno sospecha del sesgo humano al hablar de los sesgos de la inteligencia artificial, también podéis leer la pieza a partir de la pieza Inspecting Algorithms for Bias, del MIT Technology Review, un medio absolutamente limpio de sospechas de ludismo). Resumiendo lo de Propublica: analizan los resultados de un software que se está usando en Estados Unidos para asistir en la toma de decisiones judiciales… y resulta ser que es bastante fácil y natural acusar de racista al algoritmo. Y es muy difícil leer la pieza sin escandalizarse bastante. Sin negar la utilidad de usar algoritmos para ayudarnos a tomar decisiones, es absolutamente imprescindible que estos cumplan unos mínimos. En este sentido, a mí personalmente me atrae el Statement on Algorithmic Transparency and Accountability (PDF) de los comités estadounidense y europeo de políticas de la ACM, que establece siete principios para la transparencia y responsabilidad algorítmicas (conciencia, acceso y rectificación, responsabilidad, explicación, origen de datos, auditabilidad y validación y testeo) pero, en cualquier caso, hay mucho trabajo por hacer y corre prisa (y si a alguien le apetece leer más sobre el tema, me permito apuntarle a esta lista de lecturas).

Y una vez dicho esto… ¿qué es lo que echo en falta en el debate? Lo de siempre. Cada vez que criticamos (muchas veces con razón) el fin del mundo que nos trae la innovación tecnológica de turno tendemos, bien a olvidarnos de cómo era la realidad anterior, bien a idealizarla directamente. Y si hablamos de sesgo algorítmico… ¿no deberíamos ligar la conversación a la ya existente sobre los sesgos humanos y preguntarnos, como decía Aral Balkan en su tuit, cómo llevamos la ética los humanos, al tiempo que hablamos de la ética de los algoritmos?

La pregunta me lleva al fantástico libro de Daniel Kahneman Pensar rápido, pensar despacio (que este mes cumple seis añitos ya), y que contiene una colección de sesgos profundamente humanos que no tienen desperdicio y que nos deberían escandalizar también bastante, incluyendo un estudio sobre la correlación entre las decisiones judiciales sobre libertades condicionales y el hambre de los jueces (el 65% de libertades condicionales se concedían justo después de comer: si alguna vez os tienen que conceder —o no— la condicional, haced todo lo posible para no pillar al juez con hambre). Si queréis más ejemplos, a por el libro, que no os defraudará. Y supongo que no hará falta que ponga ningún ejemplo de la capacidad humana para el racismo…

En cualquier caso, y dando por aceptado que estamos muy pero que muy lejos de podernos fiar de las decisiones tomadas de forma algorítmica (si es que alguna vez llegamos a ese punto, que personalmente lo dudo muchísimo)… mi pregunta sin responder es: una vez encontrado un sesgo en un proceso de toma de decisiones, ¿es más fácil corregirlo si el proceso es algorítmico o humano? Y no tengo respuesta.