La ceguera ahora aprende de nosotros

Por: Mtro. Kevin Eduardo Salazar Recinos | Coordinador académico

Hay novelas que envejecen y otras que esperan. Ensayo sobre la ceguera, publicada en 1995, pertenece a esta segunda categoría. Durante tres décadas ha aguardado a que la realidad encuentre nuevas maneras de representar su metáfora. En su momento fue leída como una alegoría sobre el miedo, la fragilidad de las instituciones y la facilidad con que la civilización puede desprenderse de sus modales. Hoy también puede leerse como una advertencia sobre el modo en que estamos delegando la mirada en mundo digitalizado.

La nueva ceguera no llega como una blancura repentina. No obliga a detener los automóviles en medio de una avenida ni conduce a los ciudadanos hacia un manicomio abandonado. Aparece en una pantalla bien iluminada. Se presenta en forma de informe, predicción, porcentaje de riesgo, recomendación automatizada o tablero de métricas. No nos deja sin información; nos rodea de ella. Y acaso allí reside su novedad más peligrosa: podemos verlo todo y, aun así, no comprender nada.

La Fundación José Saramago recuerda que la novela pone en escena una epidemia de ceguera blanca que se propaga sin explicación. La enfermedad termina revelando una ceguera anterior, menos visible y más profunda: la incapacidad de reconocer al otro y asumir responsabilidad por su destino. Treinta años después, esa pregunta moral continúa abierta. La tecnología ha cambiado; nuestra propensión a dejar de ver, no tanto.

La conmemoración de las tres décadas de la obra no debería reducirse a celebrar su vigencia literaria. Conviene preguntarnos por qué una novela escrita antes de las redes sociales, de la inteligencia artificial generativa y de los sistemas automatizados de decisión parece describir con tanta exactitud algunas de nuestras renuncias contemporáneas. El libro, concluido en 1995, fue concebido por Saramago como una obra de rebeldía y una llamada a la conciencia ciudadana. Quizá su fuerza provenga de que nunca trató únicamente de los ojos. Trata de la responsabilidad de mirar.

Un aula para aprender a desconfiar

Imparto Filosofía Aplicada a la Creatividad e Innovación a estudiantes de primer ciclo de la Licenciatura en Innovación y Transformación Digital. Esta precisión es importante. No se trata de formar filósofos profesionales ni de convertir la clase en una sucesión de doctrinas desprendidas de la realidad. Se trata de formar profesionales que probablemente participarán en el diseño, implementación o evaluación de tecnologías capaces de intervenir en la vida de otras personas.

Por eso, en esta cátedra la filosofía no funciona como un museo de respuestas antiguas. Es una forma de interrupción. Detiene por un momento la fascinación por lo nuevo y obliga a formular preguntas que la velocidad tecnológica suele dejar atrás: ¿Qué problema estamos resolviendo?, ¿para quién?, ¿quién podría resultar excluido?, ¿qué decisión no deberíamos automatizar?, ¿quién responderá cuando el sistema se equivoque?

A partir de Ensayo sobre la ceguera diseñé el workshop denominado: “La ceguera algorítmica”. El propósito no era decidir si la inteligencia artificial es buena o mala. Esa oposición resulta demasiado cómoda y, a estas alturas, poco útil. El desafío era reconocer cómo una tecnología técnicamente eficiente puede producir decisiones humanamente injustas cuando nadie examina sus datos, sus criterios y sus consecuencias.

Comenzamos con una frase incompleta: “Estamos ciegos cuando…”. Las respuestas permitieron descubrir que la ceguera no equivale a ignorancia. También estamos ciegos cuando tenemos datos, pero no contexto; cuando recibimos una respuesta, pero desconocemos el procedimiento que la produjo; cuando confiamos en una plataforma porque utiliza matemáticas; cuando confundimos rapidez con justicia; cuando una cifra nos evita el incómodo trabajo de escuchar.

Después distribuimos siete lentes tomadas de la novela: la ceguera blanca, la pérdida de los nombres, el encierro, el colapso de las normas, la lucha por los recursos, la indiferencia y la mujer del médico. Cada estudiante asumió una de ellas y tuvo que preguntarse qué significaba filosóficamente, qué situación de la obra permitía interpretarla y cómo reaparecía en la sociedad digital.

La pérdida de los nombres produjo una de las asociaciones más fecundas. En Saramago, los personajes son identificados por rasgos circunstanciales: el primer ciego, la mujer del médico, la muchacha de las gafas oscuras. La ausencia de nombres vuelve universal el relato, pero también muestra la fragilidad de la identidad cuando una persona es reducida a una condición.

En los sistemas digitales hacemos algo parecido. Al estudiante lo convertimos en “perfil de riesgo”; al ciudadano, en “beneficiario potencial”; al consumidor, en “segmento”; al usuario de una red social, en “alcance”, “impresión” o “conversión”. No es que los datos sean falsos. El problema comienza cuando suponemos que son suficientes.

Un informe de redes sociales puede indicar que una publicación alcanzó a 25.000 personas, generó 1.200 interacciones y aumentó en un ocho por ciento la cantidad de seguidores. El documento puede ser impecable y, sin embargo, permanecer ciego. No nos dice necesariamente quién comprendió el mensaje, quién quedó fuera, qué persona necesitaba una respuesta, si los comentarios expresaban identificación o malestar ni si el aumento de visibilidad produjo alguna transformación real.

Mucho alcance no significa comprensión. Más seguidores no equivalen a una comunidad. La ausencia de comentarios negativos tampoco demuestra la ausencia de un problema. La ceguera algorítmica comienza cuando confundimos lo medible con la totalidad de lo existente.

La universidad que dejó de decidir

El momento central del workshop fue un caso situado en 2035. Una universidad utilizaba inteligencia artificial para asignar becas, detectar plagio, evaluar el desempeño e identificar estudiantes con riesgo de abandonar sus estudios. El sistema reducía costos y agilizaba los procesos. Sin embargo, algunas personas eran rechazadas o sancionadas sin recibir una explicación. Los docentes confiaban en la plataforma, aunque nadie dentro de la institución comprendía enteramente cómo tomaba sus decisiones.

Cada estudiante asumió una posición distinta: estudiante rechazado, docente, rectoría, programador, familia, representante de derechos humanos y sistema de inteligencia artificial. Desde ese lugar debía reconocer el beneficio que podía observar, el problema que dejaba de ver, el riesgo que enfrentaba y la responsabilidad que le correspondía.

El ejercicio modificó la discusión. Mientras se habla de la inteligencia artificial en abstracto, resulta sencillo pronunciarse a favor o en contra. Cuando se ocupa el lugar de una persona afectada, la supuesta neutralidad comienza a resquebrajarse. La rectoría ve eficiencia; el estudiante experimenta indefensión. El programador observa patrones; la familia contempla una trayectoria educativa interrumpida. El docente recibe una alerta; el representante de derechos humanos pregunta si existe la posibilidad de apelar. El sistema procesa datos, pero no puede responder moralmente por ellos.

Los estudiantes fueron comprendiendo que el algoritmo no era el único ciego. También lo era la universidad que había renunciado a explicar sus decisiones; el profesor que aceptaba la recomendación sin contrastarla; la autoridad que convertía el ahorro en argumento suficiente; el diseñador que consideraba terminado su trabajo cuando el modelo alcanzaba un porcentaje aceptable de precisión.

Esta distinción es decisiva. Hablar de “un algoritmo sesgado” puede hacernos imaginar una máquina autónoma que desarrolló prejuicios por cuenta propia. Pero los sistemas aprenden de datos procedentes de sociedades desiguales. Se entrenan con decisiones anteriores, clasificaciones humanas y ausencias históricas. Si durante años determinados grupos tuvieron menos acceso a becas, empleos o financiamiento, un modelo predictivo puede transformar esa desigualdad heredada en una apariencia de probabilidad objetiva.

El algoritmo no inventa necesariamente la ceguera: puede organizarla, acelerarla y concederle el prestigio de la estadística.

Por ello, el grupo no resolvió el caso prohibiendo la inteligencia artificial ni entregándole la última palabra. La salida fue más exigente: rediseñar la relación entre la decisión automatizada y la responsabilidad humana. Para ello se trabajó con un semáforo ético. En verde quedaron las tareas operativas que la IA puede ejecutar sin afectar derechos de manera directa. En amarillo, aquellas en las que puede recomendar, siempre que una persona revise el contexto. En rojo, las decisiones capaces de alterar la dignidad, las oportunidades o la trayectoria de alguien.

Asignar definitivamente una beca, sancionar por supuesto plagio o excluir a un estudiante no puede convertirse en un trámite sin rostro. Si una decisión afecta derechos, debe existir una persona responsable, una explicación comprensible, un procedimiento de revisión y una vía efectiva de apelación. La supervisión humana tampoco puede consistir en que alguien pulse “aceptar” frente a una recomendación que no entiende.

La solución se completó mediante un canvas que exigía identificar la ceguera, la persona invisibilizada, el valor que debía protegerse, el papel legítimo de la IA, el límite de la automatización y el indicador que permitiría saber si la propuesta realmente humanizaba. De este modo, los estudiantes pasaron de la opinión al diseño. La filosofía dejó de ser comentario y se convirtió en criterio de innovación.

No alcanzamos a concluir todo el workshop en una sola sesión. Lejos de ser un fracaso, esa interrupción reveló algo valioso: los dilemas importantes se resisten a las respuestas inmediatas. Fue necesario volver a Saramago, revisar las matrices y fortalecer los argumentos antes de terminar los prototipos y el manifiesto colectivo. Innovar también significa aprender a no fingir que una solución está lista solo porque se terminó el tiempo de clase.

La mujer que podía ver

En la novela, la mujer del médico conserva la vista. Su privilegio se convierte pronto en carga. Ver el sufrimiento de los demás le impide alegar desconocimiento. No posee una respuesta perfecta, pero sabe que permanecer como espectadora también sería una decisión.

En nuestro ejercicio, su equivalente no fue una persona determinada. Fue una función: la conciencia crítica. La encarnó quien preguntó por los datos ausentes, quien exigió una explicación, quien recordó que detrás de una clasificación había una vida y quien se negó a delegar por completo la responsabilidad.

Ese debería ser también el lugar del profesional de la Innovación y la Transformación Digital. No necesitamos especialistas que teman la tecnología ni operadores seducidos por cualquier novedad. Necesitamos profesionales capaces de desarrollarla, comprenderla y ponerle límites; personas que sepan leer un tablero de datos sin olvidar aquello que el tablero no puede mostrar.

La mujer del médico no destruye la técnica para devolverles dignidad a los otros. Mira, acompaña, decide y responde. Su ejemplo permite formular una ética para nuestro tiempo: cuanto mayor sea nuestra capacidad de ver mediante los datos, mayor será nuestra obligación de reconocer lo que esos datos dejan fuera.

Hacia una nueva ilustración radical

Aquí la lectura de Saramago se encuentra con la propuesta de Marina Garcés. La filósofa catalana denomina: “analfabetismo ilustrado” a una condición paradójica de nuestro presente: disponemos de enormes cantidades de conocimiento y, sin embargo, nos sentimos incapaces de relacionarnos críticamente con él. Sabemos mucho, pero no siempre sabemos qué hacer con lo que sabemos. Accedemos a información sin adquirir necesariamente mayor autonomía.

La crisis de nuestro tiempo no es solamente una carencia de datos. Es, como ha explicado Garcés, una crisis de confianza y de capacidad para intervenir en el mundo común. Su llamada a una nueva ilustración radical no pretende restaurar ingenuamente la vieja fe en que todo avance científico conducirá por sí mismo a una sociedad mejor. Propone recuperar el vínculo entre conocimiento, emancipación y transformación colectiva.

Esa radicalidad resulta indispensable para la formación de quienes innovarán en El Salvador. Durante mucho tiempo, la palabra progreso se presentó como una línea ascendente: más ciencia, más tecnología, más productividad y, por tanto, mayor libertad. El siglo XX se encargó de demostrar que la razón instrumental también podía administrar la barbarie. Nuestro siglo añade otra advertencia: una sociedad altamente informada puede quedar sometida a sistemas que clasifica como inteligentes, aunque casi nadie pueda interrogarlos.

La alternativa no consiste en volvernos enemigos del progreso. Consiste en discutir qué progreso deseamos y a quién sirve. Una nueva razón no debería encadenarnos a nuevos miedos: miedo a quedar fuera de la transformación digital, a no seguir el ritmo de la automatización, a ser calificados por una máquina o a volvernos irrelevantes frente a ella. La educación universitaria debe impedir que esos temores se conviertan en obediencia.

Para los futuros profesionales de la Innovación y la Transformación Digital, la ilustración radical comienza al reconocer que diseñar una plataforma también es organizar relaciones de poder. Elegir una variable supone decidir qué importa. Construir una categoría implica establecer quién cabe en ella. Automatizar un proceso determina qué experiencia humana será acelerada, simplificada o expulsada.

Innovar no es instalar tecnología en procesos antiguos. Es comprender críticamente aquello que se transforma y asumir responsabilidad por el mundo que emerge de esa transformación.

El Salvador necesita profesionales capaces de aprovechar la inteligencia artificial para ampliar oportunidades educativas, fortalecer los servicios públicos, mejorar la productividad y crear soluciones pertinentes. Pero esa aspiración quedaría incompleta si no formamos, al mismo tiempo, la capacidad de cuestionar los sesgos, defender la privacidad, explicar las decisiones y proteger el derecho de las personas a no ser reducidas a un perfil.

La pregunta final del workshop fue: “¿Qué capacidad humana no estamos dispuestos a delegar a la inteligencia artificial?”. No existe una única respuesta, pero hay una que reúne buena parte de lo discutido: no podemos delegar la responsabilidad de reconocer al otro.

Treinta años después, Saramago continúa incomodándonos porque su epidemia nunca terminó. Solo ha cambiado de interfaz. La ceguera de nuestro tiempo puede calcular, predecir y generar informes. Puede presentarse con gráficos elegantes y porcentajes de confianza. Puede incluso decirnos que ha encontrado la opción más eficiente.

Frente a ella, la tarea de la filosofía no es apagar las máquinas. Es encender el juicio.

Quizá la lucidez que necesitamos comience con un gesto sencillo: volver a mirar detrás del dato, preguntar quién no aparece y negarnos a aceptar que una decisión sin explicación sea inevitable. Porque el verdadero peligro no es que las máquinas aprendan a ver. Es que nosotros dejemos de hacerlo.

Nota relacionada