Lectura 5.
Temas éticos y sociales.
Capturado por Paola Maricela García Trujillo, CI 402.
Febrero 2003.
Descarga el archivo Word de la Lectura 5, aquí.

Riesgos de la Tecnología de Punta. 

Uno de los principales propósitos de crear software “inteligente” es compartir experiencia y librar a la gente de la constante necesidad de recurrir a expertos humanos: médicos, abogados, contadores, ingenieros y otros profesionistas del conocimiento, de cuya experiencia dependemos para cuidar nuestra salud, finanzas y bienestar general. Con la integración del conocimiento al software, ahora podemos realizar un número cada vez mayor de tareas para las que dependíamos de especialistas. Por ejemplo, mucha gente usa software para escribir sus propios testamentos en lugar de ir con un abogado; un número cada vez mayor de ciudadanos usa sistemas expertos en impuestos para planear sus finanzas y preparar su declaración de impuestos; y algunas personas usan sistemas expertos en medicina para diagnosticar enfermedades.

Cada vez hay una mayor disponibilidad de programas expertos, eso es evidente; sin embargo, esta dependencia creciente hacia la inteligencia de las máquinas plantea nuevos interrogantes legales y éticos: ¿Quién es legalmente responsable del asesoramiento de un programa? ¿Se necesita el juicio de un experto para interpretar un programa? ¿La experiencia contenida en la máquina reemplaza o sólo complementa la de un experto “real”? ¿Cómo sabemos si los “expertos” que alimentan los sistemas expertos son verdaderamente lo que dicen ser?

Estas cuestiones legales no están completamente reguladas por las leyes actuales. Aunque es ilegal que las personas se digan profesionales autorizados si no tienen las acreditaciones correspondientes, a cualquiera se le permite usar el SE que desee y dar asesoría con base en la salida del sistema. En realidad, cualquier persona, sin importar sus títulos, puede crear un sistema experto, aún en medicina. Y las leyes no prohíben a la gente usar SE médicos para auto diagnosticarse o SE legales para defenderse. Los resultados pueden provocar serios daños o pérdidas financieras. La creciente auto-dependencia puede representar un problema. La experiencia que tenemos literalmente al alcance de la mano da una falsa impresión de que cualquier decisión que la computadora señale como correcta es la única que debemos aceptar. Aunque la salida sea la decisión óptima en la mayor parte de los casos, un solo error sería perjudicial.

Considere el caso de la “camilla inteligente”. El ejército de Estados Unidos contrató a una empresa especializada en inteligencia artificial médica para que creara este programa a principios de los años noventa. El sistema aprovechó la experiencia de médicos y otro personal relacionado para producir un SE que se instalaría en una computadora pequeña conectada a camillas en lugar de combate. Se suponía que el sistema ayudaría a los médicos de unidades de combate a diagnosticar con rapidez a soldados heridos en el campo de batalla, capturando datos del perfil médico que describían las heridas del soldado, tras lo cual el sistema diagnosticaría y recomendaría el tratamiento para el paciente.

La razón por la que no ha oído sobre la “camilla inteligente” es que poco antes de que fuera puesto en funcionamiento el dispositivo, la empresa decidió renunciar al lucrativo contrato por miedo a las demandas. Los ejecutivos dijeron que la pequeña compañía no podía costear juicios largos y costosos si un soldado o su familia demandaban a los creadores del sistema si argumentaban que éste hizo un mal diagnóstico y, por tanto, perjudicó al paciente.

¿Quién tiene la culpa cuando se toma una decisión equivocada por usar un SE? Hay cuatro partes involucradas en la creación y uso de SE: los expertos que proporcionan el conocimiento, los ingenieros del conocimiento que construyen el sistema, el profesional que lo usa y la persona afectada por la decisión. El mal funcionamiento se debe a cualquiera de estas posibilidades: los expertos habrían proporcionado conocimiento equivocado, el ingeniero del conocimiento habría construido mal el SE, el usuario lo habría usado de manera incorrecta y la persona afectada habría proporcionado datos equivocados.