Ética de la inteligencia artificial, Mark Coeckelbergh
«Otro problema que es tanto ético como social, y también es específico de la ciencia de datos basada en IA, en contraste con otras tecnologías de automatización, es la cuestión del sesgo. Cuando una IA toma (o, de forma más precisa, recomienda) decisiones, puede surgir el sesgo: las decisiones pueden ser injustas o poco equitativas para individuos o grupos particulares. Aunque el sesgo también puede surgir en la IA clásica (por ejemplo, un sistema experto que utilice un árbol de decisión o una base de datos sesgada), el problema del sesgo está a menudo relacionado con las aplicaciones de aprendizaje automático. Y aunque los problemas de sesgo y discriminación siempre han estado presentes en la sociedad, la preocupación es que la IA pueda perpetuar estos problemas y acrecentar su impacto.
A menudo, el sesgo no es intencional: es habitual que los desarrolladores, usuarios y otros involucrados, como podría ser la dirección de una empresa, no prevean los efectos discriminatorios contra ciertos grupos o individuos. Esto puede deberse a que no comprendan lo suficiente el sistema de IA, a que no estén al tanto del problema del sesgo, a su propio sesgo o, de forma más general, a que no piensen ni reflexionen lo suficiente sobre las consecuencias potenciales no intencionadas de la tecnología, o se hayan alejado en exceso de determinados grupos de interés. Se trata de una cuestión problemática, ya que las decisiones que se toman con sesgos pueden tener consecuencias graves, por ejemplo, en términos de acceso a recursos y libertades (CDT 2018): los individuos podrían no conseguir un trabajo, no recibir un crédito, acabar en la cárcel o incluso padecer violencia. Y no solo pueden sufrir los individuos; comunidades enteras son susceptibles de verse afectadas por decisiones sesgadas, por ejemplo, cuando los habitantes de cierta zona de una ciudad o todas las personas con determinados orígenes étnicos son catalogados por la IA como representantes de un alto riesgo de seguridad.»
Ética de la inteligencia artificial, Mark Coeckelbergh (Cátedra, 2021)
Mark Coeckelbergh es un filósofo belga de la tecnología. Es profesor de Filosofía de los Medios y la Tecnología en el Departamento de Filosofía de la Universidad de Viena y expresidente de la Sociedad de Filosofía y Tecnología.
