{"id":42801,"date":"2025-09-30T09:49:37","date_gmt":"2025-09-30T09:49:37","guid":{"rendered":"https:\/\/mioti.es\/?p=42801"},"modified":"2025-09-30T09:54:43","modified_gmt":"2025-09-30T09:54:43","slug":"blog-el-reflejo-de-nuestros-prejuicios-en-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/mioti.es\/es\/blog-el-reflejo-de-nuestros-prejuicios-en-la-inteligencia-artificial\/","title":{"rendered":"El reflejo de nuestros prejuicios en la inteligencia artificial"},"content":{"rendered":"

Con el auge de la IA<\/strong> han surgido numerosos sesgos que se han convertido en errores t\u00e9cnicos<\/strong> y en el reflejo de los prejuicios<\/strong> trasladados a los sistemas digitales. Los algoritmos pueden aplicar criterios injustos o desproporcionados en muchas ocasiones, especialmente en situaciones que afectan directamente a las personas (como elegir a un candidato en una oferta de empleo, predecir el riesgo de reincidencia de un acusado o aprobar un pr\u00e9stamo bancario). Adem\u00e1s, estos sesgos pueden manifestarse de diversas formas, desde discriminaci\u00f3n por g\u00e9nero, raza, edad o nivel socioecon\u00f3mico, hasta por geolocalizaci\u00f3n<\/strong>. El problema radica en que los datos hist\u00f3ricos ya contienen desigualdades de cualquier tipo, y la inteligencia artificial no es capaz de reconocerlas ni eliminarlas por s\u00ed misma.<\/span><\/p>\n

En\u00a0MIOTI Tech & Business School<\/strong>\u00a0formamos a los profesionales para que comprendan el verdadero alcance de la Inteligencia Artificial, a trav\u00e9s del\u00a0\u00a0M\u00e1ster en Inteligencia Artificial<\/a>\u00a0pueden aprender a\u00a0aplicar redes neuronales con criterio<\/strong>, evitando la complejidad y maximizando el impacto en el negocio.<\/p>\n

\"Banner_M\u00e1ster<\/a><\/p>\n

\u00a0Cuatro ra\u00edces de origen habituales<\/h2>\n

La IA<\/strong> no genera sesgos, sino que es la consecuencia de decisiones humanas<\/strong> en varias fases del desarrollo:<\/span><\/p>\n

    \n
  • Datos incompletos o desbalanceados: <\/b>Los modelos de inteligencia artificial se alimentan de datos. Si esta informaci\u00f3n est\u00e1 sesgada, el propio algoritmo tambi\u00e9n lo estar\u00e1. El mejor ejemplo de esta situaci\u00f3n es el reconocimiento facial<\/strong> que no ha sido entrenado con im\u00e1genes de distintas personas, por lo que la tasa de fallo en estos casos aumenta de forma exponencial.<\/span><\/li>\n
  • Dise\u00f1os algor\u00edtmicos mal calibrados: <\/b>Las decisiones sobre qu\u00e9 variables usar, c\u00f3mo ponderarlas o c\u00f3mo evaluar los resultados pueden incluir sesgos<\/strong>, ya que no solo los datos importan. De hecho, si un sistema de contrataci\u00f3n automatizado<\/strong> considera como un punto positivo haber trabajado en ciertas empresas del sector, estar\u00e1 favoreciendo indirectamente a quienes cuenten con esta l\u00ednea en sus curr\u00edculums\u2026 y excluyendo a quienes no.<\/span><\/li>\n
  • Falta de diversidad en los equipos t\u00e9cnicos: <\/b>\u00a0El personal especializado encargado de dise\u00f1ar estos sistemas de inteligencia artificial<\/strong> no siempre contempla al total de la poblaci\u00f3n que los utilizar\u00e1. Esta situaci\u00f3n puede crear una importante discriminaci\u00f3n desde la fase de desarrollo, pasando desapercibida y provocando una falta de sensibilidad y conciencia<\/strong> sobre ciertos tipos de desigualdad.<\/span><\/li>\n
  • Criterios de optimizaci\u00f3n mal planteados: <\/b>Generalmente, en el dise\u00f1o de los algoritmos no se incorporan criterios relacionados con la justicia o la igualdad<\/strong> en la fase de optimizaci\u00f3n, por lo que los resultados que ofrecen las m\u00e1quinas pueden ser eficaces, pero no completamente justos.<\/span><\/li>\n<\/ul>\n

    El lado desigual de la IA<\/h2>\n

    Varios estudios han evidenciado c\u00f3mo los algoritmos reproducen y amplifican los sesgos de discriminaci\u00f3n existentes en la sociedad. Un estudio de Buolamwini y Gebru, realizado en 2018, se concluy\u00f3 que los sistemas de reconocimiento facial presentaban una mayor tasa de error en determinados grupos<\/strong> \u2014en torno al 34,7 %\u2014 frente a otros \u2014menos del 1 %\u2014 debido a que los datos con los que se entren\u00f3 el algoritmo<\/strong> estaban desbalanceados.<\/span><\/p>\n

    Otro de los casos m\u00e1s destacados fue un estudio realizado por Obermeyer en 2019, donde se descubri\u00f3 que el sistema de salud de los Estados Unidos<\/strong> creaba sesgos raciales entre los distintos pacientes con necesidades similares, porque se utilizaba el gasto sanitario como proxy de necesidad m\u00e9dica<\/strong>, ignorando factores estructurales como la desigualdad.<\/span><\/p>\n

    Estos hallazgos refuerzan la necesidad de crear tecnolog\u00edas m\u00e1s inclusivas<\/strong> que utilicen criterios \u00e9ticos y de justicia social en todas las etapas de su desarrollo.<\/span><\/p>\n

    Claves para hacer frente a los sesgos<\/h2>\n

    Afortunadamente, ya se est\u00e1n implementando estrategias efectivas<\/strong> para acabar con esta discriminaci\u00f3n:<\/span><\/p>\n

      \n
    • Auditor\u00edas sobre los algoritmos: <\/b>Son las encargadas de revisar los sistemas de inteligencia artificial para detectar posibles sesgos<\/strong> antes de que causen problemas reales. Estas auditor\u00edas deben ser independientes, rigurosas y continuas.<\/span><\/li>\n
    • Datos m\u00e1s diversos: <\/b>Es esencial incorporar datos que sean representativos de todas las minor\u00edas<\/strong>, con el fin de promover la inclusi\u00f3n y contribuir a la creaci\u00f3n de sistemas de inteligencia artificial m\u00e1s justos y precisos.<\/span><\/li>\n
    • Transparencia de la IA: <\/b>Es fundamental que los usuarios entiendan las razones de las decisiones de la inteligencia artificial, particularmente cuando tienen un impacto directo en las personas<\/strong>, para as\u00ed evitar que estos procesos sean secretos.<\/span><\/li>\n
    • Formaci\u00f3n \u00e9tica: <\/b>Es esencial que los programadores se formen en cuestiones \u00e9ticas<\/strong>, y de justicia social, porque necesitan comprender el verdadero efecto de cada l\u00ednea de c\u00f3digo.<\/span><\/li>\n
    • Diversidad en los equipos: <\/b>Contar con equipos de programaci\u00f3n diversos facilita la detecci\u00f3n y correcci\u00f3n de los sesgos<\/strong>, ya que aportan distintas perspectivas.<\/span><\/li>\n<\/ul>\n

      La inteligencia artificial es una tecnolog\u00eda que se alimenta de los seres humanos<\/strong>, concretamente de nuestros datos, decisiones pasadas y estructuras sociales, por lo que generalmente no es neutral. Cuando la IA discrimina, refleja errores y desigualdades la sociedad que a\u00fan no han sido corregidos. Esto supone un gran desaf\u00edo para la comunidad<\/strong>, porque si busca construir m\u00e1quinas justas, primero se necesita un compromiso social equitativo y sin sesgos.\u00a0<\/span>
      \n