03.04.17

La ‘responsabilidad algorítmica’: ¿por qué rechazaron mi crédito?

Escrito por Pablo Albarracín en Apps & Software, Blog, High Tech | 0 Comentarios

Tweet about this on TwitterShare on Facebook0Share on Google+0Email this to someoneShare on LinkedIn2Pin on Pinterest0

La abundancia y acceso a software cada vez más inteligente (aunque no creo que exista o algún día hubiera existido un software no inteligente) abre miles de puertas a  nuevos negocios en múltiples industrias.

Esta realidad, de la que ya se han referido varios pensadores y referentes tecnológicos como Ray Kurzweil, está dejando al ser humano al margen en la toma de algunas decisiones que están siendo ‘responsabilidad’ de avanzados software quienes entregan predicciones y respuestas muy confiables, tanto, que en muchos casos no es necesaria la supervisión humana.

Es por esto que hoy en día vemos a grandes empresas y startups usar tecnología en importantes decisiones, como diagnóstico médico, prevención del crimen y aprobaciones de préstamos bancarios. La aplicación de inteligencia a los datos en estos áreas, lleva a preguntarnos sobre si resulta necesaria una revisión humana a los resultados de un algoritmo. ¿Se lo dejamos todo a los 0 y 1?

La ‘responsabilidad algorítmica’

Este nuevo dilema está llevando a la generación de varios estudios académicos. La situación es conocida como ‘responsabilidad algorítmica’, y está captando el interés de variadas organizaciones de derechos civiles que están analizando las implicaciones que tiene la ciencia de los datos en estas materias. “El Big Data puede y debería causar mejor seguridad, más oportunidades económicas y mejor convivencia”, dice Wade Henderson, presidente de la Conferencia en Derechos Civiles y Humanos. Lo que está en juego aquí es, hasta dónde llegarán los datos en la búsqueda de esa soñada productividad e inteligencia en todos los procesos.

Por ejemplo, en la banca y específicamente en el sector de créditos y préstamos, el ‘conocer al cliente’, se está tornando algo extremo, gracias a dichos software mega sabios: saben todo de todos.

Imagina que vas a pedir un préstamos a un banco X: ellos extraen información de diversas fuentes, como datos y conexiones desde redes sociales, cómo completas un formulario en línea, dónde a qué hora y qué comiste cuando fuiste al cine, dónde te gusta vacacionar y cuanto gastaste, hasta si piensas hacerte una cirugía estética. Los ejecutivos dicen que conocen a los solicitantes como nunca antes, lo que les permite predecir con mayor precisión si el postulante es confiable o no (independiente de la información dura transaccional que ya posee el banco).

Su préstamo fue rechazado y usted no sabe por qué!, usted tiene una buena salud financiera, pero los algoritmos encontraron ‘algo’ suyo que ‘no les agradó’. Fin de la historia.

Esto es posible gracias a los algoritmos que buscan a través de montañas de datos, aprendiendo a medida que escudriñan hasta el fondo. Es un sistema altamente complejo y automatizado. Y no menos polémico.

La preocupación es similar en otros campos, la salud es uno de ellos. Sin embargo, aún las tecnologías no han logrado ser lo suficientemente eficaces como para ayudar realmente a los médicos en la práctica diaria.

Expertos de IBM, en colaboración con investigadores médicos de prestigiosas instituciones como la Clínica Cleveland, la Clínica Mayo y el Memorial Sloan Kettering Cancer Center, están avanzando mucho, sobre todo con Watson, que puede leer miles de datos médicos electrónicos ( EMR, por sus siglas en inglés) a un ritmo incomprensible para los seres humanos: muchos miles por segundo, buscando pistas, correlaciones e ideas. Lo que ayuda a mejorar diagnósticos, curas…vidas.

Tweet about this on TwitterShare on Facebook0Share on Google+0Email this to someoneShare on LinkedIn2Pin on Pinterest0
Tags: , , , , , , , ,

Otras Publicaciones