Lectura 6.
Temas éticos y sociales.
Capturado por Pedro Ricardo González Guevara, CI 401.
Febrero 2003.
Descarga el archivo Word de la Lectura 6, aquí.

Decisiones Automatizadas. 

En su número del 20 de junio de 1999, The Philadelphia Inquirer (p. C5) informó sobre un caso que no es tan raro. Un técnico de comunicaciones de AT&T, de aproximadamente cincuenta años, que percibía 60,000 dólares anuales y que había vivido en su hogar actual durante 15 años, tuvo una experiencia desagradable: no reunía los requisitos para un préstamo que destinaría a mejorar su vivienda de interés social. Los bancos le negaban el préstamo con base en lo que llamaban “puntuación de crédito”, pues al parecer, estaba cerca de los 500, en una escala de 200 a 900 puntos, lo que indicaba que no era un buen riesgo de crédito. Algunos bancos aceptaron proporcionarle un préstamo con elevadas tasas de interés de 11 a 12 por ciento.

Se demostró que el técnico nunca había dejado de cubrir pagos de préstamo, nunca había estado en bancarrota y nunca se había entablado un juicio legal  en su contra. Sin embargo había hecho unos pagos tardíos de tarjetas de crédito y se había retrasado más de 30 días en un pago de hipoteca. Era esto, según le explicó un amigo banquero, lo que hacía bajar su puntuación de crédito. No obstante, de no haber hablado con su amigo, nunca habría sabido que era sujeto de una evaluación que lo hacía acreedor a una puntuación. Incluso ahora que lo sabía, no podía cambiar la opinión de ningún empleado bancario aun explicando ciertas circunstancias. Está es la razón por la que los bancos estadounidenses utilizan computadoras para tomar decisiones de crédito. Las computadoras utilizan puntuaciones de crédito para decidir quiénes recibirán o no crédito, y la decisión es inapelable.

Recuerde nuestra reflexión sobre prevacía de datos, hecha en el resumen 11 “Sistemas de Información Interorganizacionales e Internacionales”. Señalamos las principales diferencias entre las leyes de privacidad en Estados Unidos y  Europa. Mencionamos una de las áreas en que difieren las políticas: la toma de decisiones automatizada que afecta a los individuos. Aún no existe ninguna ley estadounidense que aborde el tema, mientras que en La Unión Europea (UE), que incluye al Reino Unido, Alemania, Francia y otros doce países, restringe la práctica de toma de decisiones automatizada que afecta el derecho que tienen los individuos de decidir sobre el destino de datos relacionado con ellos.

Protección europea El titulo completo de la directiva de la UE es Directiva 95/46/EC del Parlamento Europeo y el Consejo del 24 de octubre de 1995 sobre la protección de individuos con respecto al procesamiento y libre movimiento de datos personales. Las directivas de la Unión Europea son parecidas a la Constitución de Estados Unidos; cada estado miembro formula sus propias leyes dentro del marco de referencia de las directivas. En términos prácticos, esto significa que las naciones miembros pueden restringir más a las organizaciones y proporcionar más protección de la que requiere la propia directiva, pero no menos.

El articulo 15 de la Directiva se titula “Decisiones individuales automatizadas”. Otorga a cualquier persona el derecho a “…no estar sujeta a una decisión que produzca efectos legales sobre ella o que le afecte en gran medida, basada únicamente en el proceso automatizado de los datos destinados a evaluar ciertos aspectos personales relacionados con dicha persona, como su desempeño en el trabajo, mérito de crédito, confiabilidad, conducta, etcétera".

¿Quién necesita protección? Esto conduce a una cuestión importante: ¿hasta qué grado las organizaciones dependen de apoyos basados en computadoras para tomar decisiones de negocios sobre individuos? Observe que en los Estado Unidos, esto se aplica a bancos, empresas de tarjetas de crédito, empresas de hipotecas, empleadores, y en cierta medida, instituciones educativas. Los individuos afectados pueden ser consumidores, solicitantes de crédito, empleados, solicitantes de trabajo, estudiantes postulantes en becas, solicitantes de membresía en asociaciones y gente que está siendo evaluada por organizaciones con relación con otras capacidades.

El mérito de crédito se determina mediante el procesamiento de datos financieros personales en modelos creados de manera específica para separar los “buenos” de los “malos” riesgos. Un mal riesgo es una persona o institución con probabilidad de dejar de cumplir con los pagos de un préstamo. Por ejemplo, ¿las empresas de tarjetas de crédito deben pedir a sus empleados que abran un expediente a cualquier adulto y tomen una decisión sobre el monto del crédito después de revisar los documentos contenidos el él? ¿Se les debe prohibir que utilicen un nuevo proceso automatizado que tome la decisión por ellos  con base en los mismos criterios que los agentes utilizarían manualmente? Y en cuanto a los empleados hayan revisado cientos, o quizá miles, de currículos digitalizados de solicitantes de trabajo, ¿se les debe prohibir que utilicen software que marque los currículos con palabras clave que les indique si una persona es apropiada para el trabajo solicitado, o no?

La toma de decisiones automatizada no sólo ofrece más eficacia, sino también más efectividad, pues cuando utiliza un sistema experto, el usuario aprovecha el conocimiento y la experiencia acumulada por las otras personas durante muchos años.

La injusticia que subyace Por otro lado, delegar la toma de decisiones a una máquina puede provocar situaciones injustas. Suponga que el suyo está en varios cientos de registros de solicitantes considerados para un puesto. Lo proporcionó una empresa que vende información personal. Sus calificaciones son excelentes, pero su registro también indica que cometió una violación a la ley. El sistema lo elimina del grupo de candidatos elegibles y no obtiene el trabajo. Si hubiera visto su registro antes de su procesamiento, podría haberle avisado a la empresa que se trataba de un error: se le había acusado, sí, pero fue absuelto en el juzgado. Si la empresa se hubiera puesto en contacto con usted, podría haber aclarado el malentendido y obtenido el trabajo.