Vivimos rodeados de tecnología. Siempre estamos acompañados por algún dispositivo tecnológico, unos aparentemente sencillos, como un «reloj inteligente» o un «televisor inteligente» y otros más sofisticados como un «teléfono inteligente». También disponemos de «asistentes virtuales inteligentes» que interactúan con nosotros, recibiendo órdenes, «conversando» e incluso dando consejos. Poco a poco, en nuestros hogares hay más aparatos conectados entre sí o a una «central inteligente». Estos dispositivos no ofrecen una respuesta mecánica como al accionar un interruptor eléctrico, sino que se comportan de manera «robótica», semejando la inteligencia humana básica: tenemos en nuestros hogares robots limpiadores, cámaras y detectores de seguridad que avisan de una intrusión, luces o equipos de calefacción que se encienden según una pauta, e incluso frigoríficos que son capaces de generar la lista de la compra de alimentos para la casa basada en lo que ha aprendido sobre nuestros gustos. Se ha acuñado un nuevo término, «internet de las cosas», para denominar a todos los dispositivos conectados y que interactúan entre sí.
Estos aparatos que llamamos inteligentes están controlados por medio de la llamada inteligencia artificial, basada en la recopilación masiva de datos («big data») y el aprendizaje automático, beneficiándose de la superior rapidez de cálculo de las computadoras frente a la humana, para tomar decisiones basadas en una enorme cantidad de elementos. Al manejar millones de datos, pueden tener en cuenta múltiples factores que, en ocasiones, nos pasarían desapercibidos o que tardaríamos mucho tiempo en analizar, para así ofrecernos una solución. Aparentemente funcionan de una forma más eficiente que nuestra mente.
De esta forma, hemos depositado nuestra confianza en los resultados que ofrece el buscador de Google para cualquier pregunta que hagamos, las sugerencias de películas y series que nos podrían gustar en Netflix, los artículos que nos gustaría comprar en Amazon, los amigos con quienes contactar en Facebook o las personas con quienes queremos relacionarnos en Tinder.
Estas soluciones o sugerencias están determinadas por una compleja programación basada en algoritmos. Un algoritmo es un conjunto de instrucciones o reglas que proporcionan una actividad mediante pasos sucesivos y bien definidos. Lo que antes eran simples reglas de cálculo, modernamente se resuelve con la inteligencia artificial, que nos da la impresión de contar con alguien a nuestro lado, más inteligente y que nos da los mejores consejos.
El riesgo de la confianza ciega en los algoritmos
En ocasiones, la lógica de los algoritmos complejos es indescifrable, de manera que incluso sus diseñadores no comprenden completamente su funcionamiento. En Facebook, por ejemplo, no hay forma de saber con certeza por qué una noticia específica aparece entre las más recientes. Con estos algoritmos no se puede determinar si una decisión resultó de un razonamiento lógico o fue producida por un algoritmo que interactúa con otros sistemas automatizados de forma imprevista y sin supervisión humana.
Por otra parte, los algoritmos y los sistemas de aprendizaje automático pueden usan datos parciales, incompletos o defectuosos, por lo que las máquinas tomarán decisiones basadas en información incorrecta o en un sesgo de su programador.
Estamos rodeados de fuerzas invisibles pero poderosas, que nos vigilan desde dispositivos esparcidos por nuestras casas, incluso colocados en nuestros cuerpos, y esas fuerzas compilan afanosamente expedientes detallados sobre cada uno de nosotros. Transmiten el contenido de estos dosieres a intermediarios oscuros, que utilizan todo lo que aprenden para determinar la estructura de las oportunidades que se nos brindan o, lo que es peor, no se nos brindan. Nos ofrecerán trabajos, o no; préstamos, o no; amor, o no; salud, o no. Y lo peor es que hasta el día de nuestra muerte, nunca sabremos qué acción o inacción propia nos llevó a alguno de estos resultados.
Hay otro riesgo más inquietante aún: a medida que los algoritmos desarrollan la capacidad de tomar decisiones en situaciones complejas, los seres humanos serán sustituidos por máquinas más eficientes, más baratas o que realizan trabajos pesados o peligrosos.
Esto puede provocar una pérdida en el juicio humano, ya que las personas se vuelven dependientes del software que piensa por ellos. Los humanos pasarán a ser considerados inputs en el proceso y no seres reales, quedando así marginados. El exceso de delegación en las máquinas basadas en la inteligencia artificial nos puede debilitar a largo plazo, pues ya no es necesario ser fuerte, hábil o inteligente.
Cómo nos pueden afectar socialmente los algoritmos
Como hemos dicho, los algoritmos de inteligencia artificial se aplican a la gestión de cualquier sistema complejo, desde la dirección y guiado de un automóvil hasta la formulación de políticas públicas.
Hemos cedido gran parte del poder de toma de decisiones a sofisticados algoritmos. No solo a la hora de realizar una compra o ver una película de entretenimiento, sino que algoritmos de predicción de riesgos controlan quién puede recibir un préstamo, qué persona es válida para un puesto de trabajo e incluso quién quedaría cubierto con un seguro médico que no signifique grandes pérdidas para la aseguradora.
También los organismos gubernamentales toman cada vez más decisiones automatizadas basadas en la recolección de información digitalizada sobre individuos, y mediante algoritmos matemáticos catalogan su comportamiento pasado y evalúan su riesgo de participar en conductas futuras. Así, por ejemplo, se utilizan algoritmos para determinar qué barrios se someten a vigilancia policial, qué familias reciben ayudas públicas o a quién se investiga por fraude.
En el caso del mantenimiento del orden público, esta capacidad es conocida como vigilancia policial predictiva. El objetivo es que, equipados con un conjunto suficientemente rico de datos sobre incidentes pasados, los departamentos de seguridad pública puedan predecir los puntos más propensos a la comisión de delitos, e incluso los delincuentes individuales, con un alto grado de precisión y con la suficiente anticipación para que se pueda evitar cualquier delito real.
Las aplicaciones que se utilizan en las actuaciones policiales predictivas, como Snaptrends y SpatialKey, son capaces de geolocalizar y analizar lo que la gente dice en las redes sociales, para así extraer de ellas inferencias significativas. A través de comentarios de odio en Facebook o publicaciones positivas de Instagram, los posibles delincuentes suelen dejar una cadena de pistas en las redes sociales, que se pueden utilizar para adelantarse a la comisión del delito.
El inconveniente es que esta vigilancia predictiva, que parece anticipar el futuro, se basa en la recolección de datos del pasado. Un vecindario en el que se ha producido un aumento significativo de delitos graves puede convertirse en el foco de un patrullaje intensivo, por lo que habrá una detección de delitos superior al promedio de la ciudad, lo que provocará un nuevo refuerzo de la vigilancia policial. Un adolescente de esta «zona conflictiva» que en algún momento cometa una falta leve, normalmente no considerada como delito, podría ser perseguido policialmente. A partir de entonces tendrá antecedentes penales y aparecerá cada vez más sospechoso de cometer un nuevo crimen, incluso cuando existen otras personas más inclinadas al comportamiento delictivo, o con delitos más graves para la sociedad, pero que evaden la detección porque no es revelada por ningún algoritmo.
Los algoritmos no sustituyen al ser humano
Podemos enseñar a un algoritmo a reconocer la realidad que nos rodea con bastante facilidad. Podría ser capaz de identificar, con grados sucesivamente más finos de precisión, un vehículo, un coche, un coche de policía, un coche de policía de la ciudad de Nueva York. Esto no es difícil. Pero ¿cómo enseñamos a un algoritmo a reconocer la pobreza?
Con los algoritmos podemos creer que adoptamos nuevas formas de resolver los problemas sociales al usar la tecnología, como si fuera una manera más eficiente, más racional. El problema es que, bajo ella, se toman decisiones políticas, que tienen consecuencias políticas, sobre cómo gestionar la falta de igualdad. Y esto puede ser simplemente una excusa para controlar la sociedad.
Para concluir, podemos cambiar la forma en que funcionan estos sistemas y construir tecnología para las personas. Es necesario un diseño y un desarrollo éticos de los algoritmos. Pero no es suficiente educar a los ingenieros o pedirle a Facebook que sea más respetuoso. Ni tampoco que las instituciones, Gobiernos y poderes tengan un mayor control. Es necesario que el cambio se produzca en la sociedad y que, ante este tipo de situaciones, digamos que «esto no es aceptable». Una regla de oro para evaluar los algoritmos podría ser preguntarse si aumentan la dignidad y la autodeterminación de las personas.
También te puede interesar:
Spanish
Excelente artículo
Estupendo artículo para la reflexión