{"id":6519,"date":"2020-01-02T07:22:46","date_gmt":"2020-01-02T06:22:46","guid":{"rendered":"https:\/\/ceadigilaw.com\/?p=6519"},"modified":"2024-10-07T11:56:37","modified_gmt":"2024-10-07T09:56:37","slug":"inteligencia-artificial-muchas-propuestas-eticas-pero-poca-regulacion-que-establezca-garantias-sobre-su-uso","status":"publish","type":"post","link":"https:\/\/ceadigilaw.org\/es\/womens\/blog\/inteligencia-artificial-muchas-propuestas-eticas-pero-poca-regulacion-que-establezca-garantias-sobre-su-uso\/","title":{"rendered":"Inteligencia artificial: muchas propuestas \u00e9ticas, pero poca regulaci\u00f3n que establezca garant\u00edas sobre su uso"},"content":{"rendered":"

El AI Now 2019 Report destaca que esa falta de medidas efectivas contrasta con la generalizaci\u00f3n de las tecnolog\u00edas de reconocimiento facial y la aparici\u00f3n de otras nuevas, como el reconocimiento de emociones de las personas, particularmente intrusivas.<\/em><\/p><\/blockquote>\n

A pesar de la abundancia de propuestas sobre criterios \u00e9ticos aplicables a la Inteligencia Artificial (IA), los sistemas basados en esta tecnolog\u00eda contin\u00faan despleg\u00e1ndose r\u00e1pidamente en \u00e1mbitos de considerable importancia social como la salud, la educaci\u00f3n, el empleo, la justicia penal y muchos otros, sin que se hayan implantado a la vez sistemas de salvaguardias adecuadas o estructuras de rendici\u00f3n de cuentas (accountability<\/i>).<\/p>\n

En este contexto, destaca, en particular, el desarrollo de nuevos sistemas de reconocimiento de emociones (affect recognition<\/i>), una subclase de las tecnolog\u00edas de reconocimiento facial orientada a detectar aspecto como la personalidad, las emociones, la salud mental y otros estados interiores de la persona, de car\u00e1cter particularmente intrusivo para la intimidad.<\/p>\n

Adem\u00e1s, hay que tener en cuenta tambi\u00e9n que cada vez son m\u00e1s los aspectos estrat\u00e9gicos derivados de la utilizaci\u00f3n de la IA, como los considerables da\u00f1os ambientales causados por estos sistemas, o sus efectos sobre la asistencia sanitaria, donde la creciente dependencia de los sistemas de IA para la toma de decisiones, puede tener consecuencias sobre la vida o la muerte de las personas. Adem\u00e1s, estos sistemas son particularmente propensos a las vulnerabilidades de seguridad.<\/p>\n

Por otra parte, la IA est\u00e1 ampliando la desigualdad, en diversos \u00e1mbitos y contextos, al poner la informaci\u00f3n y su control en manos de quienes ya tienen poder, desempoderando a\u00fan m\u00e1s a quienes no lo tienen.<\/p>\n

Por ello no es de extra\u00f1ar que durante el a\u00f1o que concluyen grupos sociales, investigadores, responsables pol\u00edticos y trabajadores est\u00e9n exigiendo que se pongan l\u00edmites a las actividades basadas en la IA m\u00e1s arriesgadas y peligrosas.<\/p>\n

Estas son las principales conclusiones del\u00a0informe AI Now 2019<\/b>, presentado por el IA Now Institute, un centro radicado en la Universidad de Nueva York, dedicado a la investigaci\u00f3n interdisciplinar sobre las implicaciones sociales de la IA. El informe, de enfoque notoriamente cr\u00edtico sobre los efectos de estas tecnolog\u00edas sobre el trabajo y los derechos civiles y sociales de las personas, analiza el estado de aplicaci\u00f3n y regulatorio de estas tecnolog\u00edas a nivel global, identifica la actual situaci\u00f3n de su uso, y propone una serie de recomendaciones para poner soluci\u00f3n a los problemas localizados.<\/p>\n

Tendencias actuales sobre Inteligencia Artificial<\/b><\/p>\n

El estudio ha identificado tambi\u00e9n las siguientes tendencias durante el a\u00f1o que ahora concluye:<\/p>\n

1. La difusi\u00f3n de las tecnolog\u00edas de gesti\u00f3n algor\u00edtmica en el lugar de trabajo est\u00e1 aumentando la asimetr\u00eda de poder entre trabajadores y empleadores. La IA amenaza con ello no s\u00f3lo con desplazar de manera desproporcionada a los trabajadores con salarios m\u00e1s bajos, sino tambi\u00e9n con reducir los salarios, la seguridad laboral y otras protecciones para los que m\u00e1s lo necesitan.<\/p>\n

2. Los colectivos sociales, trabajadores, periodistas e investigadores y no las declaraciones \u00e9ticas y pol\u00edticas corporativas sobre AI, han sido los principales responsables de presionar a las empresas tecnol\u00f3gicas y a los gobiernos para que pongan barreras al uso de AI.<\/p>\n

Empresas, gobiernos, entidades sociales y acad\u00e9micas est\u00e1n dedicando enormes esfuerzos para elaborar principios \u00e9ticos aplicables a la IA. Pero la mayor\u00eda de los mismos dicen muy poco de sobre la implementaci\u00f3n, la accountability o la forma en que estos principios deben ser medidos y aplicados en la pr\u00e1ctica. Paralelamente se aprecia una severa diferencia entre el enunciado de estos principios y lo su pr\u00e1ctica.<\/p>\n

3. Se est\u00e1n realizando esfuerzos para regular los sistemas de IA (por ejemplo, en los EEUU, la Commercial Facial Recognition Privacy Act de 2019, la Facial Recognition Technology Warrant Act y la No Biometric Barriers Act de 2019, y en Europa, determinados aspectos del RGPD), pero estos esfuerzos se est\u00e1n viendo superados por la implantaci\u00f3n por parte de los gobiernos de sistemas de IA para vigilar y controlar a los ciudadanos.<\/p>\n

4. Los sistemas de IA contin\u00faan siendo un medio para ampliar las disparidades raciales y de g\u00e9nero a trav\u00e9s de t\u00e9cnicas como el reconocimiento de afectos, que no tiene una base cient\u00edfica s\u00f3lida.<\/p>\n

Sin embargo, en vez de reconocer la escala y la naturaleza sist\u00e9mica del problema, las empresas de tecnolog\u00eda han respondido a las crecientes pruebas de existencia de sesgos y del mal uso de esta tecnolog\u00eda centr\u00e1ndose principalmente en soluciones de alcance limitado. Tambi\u00e9n han intentado solucionar el desajuste t\u00e9cnico en los datos trabajando para \u00abarreglar\u00bb los algoritmos y diversificar los conjuntos de datos, a pesar de que estos enfoques han demostrado ser insuficientes y plantean serias preocupaciones sobre la privacidad y el alcance del consentimiento otorgado para estos fines. En particular, ninguno de los dos enfoques aborda las desigualdades estructurales subyacentes. Tampoco abordan la creciente asimetr\u00eda de poder entre quienes producen y se benefician de la IA y quienes est\u00e1n sujetos a las aplicaciones de la IA.<\/p>\n

5. El aumento de las inversiones y el desarrollo de la IA tiene profundas repercusiones en \u00e1mbitos que van desde el cambio clim\u00e1tico a los derechos de los pacientes de atenci\u00f3n de salud, pasando por el futuro de la geopol\u00edtica y las desigualdades que se est\u00e1n reforzando en las regiones del Sur global.<\/p>\n

El estudio resalta el peligro de dejar las soluciones a estas cuestiones en manos de un peque\u00f1o n\u00famero de individuos y empresas, cuyos prop\u00f3sitos y visi\u00f3n del mundo a menudo est\u00e1n en desacuerdo con los intereses de aquellos que soportan las consecuencias de tales decisiones.<\/p>\n

Recomendaciones<\/b><\/p>\n

El informe incluye una lista de 12 recomendaciones para los desarrolladores, los reguladores y los gobiernos:<\/p>\n

1. Los reguladores deber\u00edan prohibir el uso del reconocimiento de las emociones para la toma de decisiones relevantes que afecten a la vida de las personas y al acceso a las oportunidades. Hasta entonces, las empresas que desarrollen o utilicen IA deber\u00edan dejar de utilizarlo.<\/p>\n

El informe destaca que esta tecnolog\u00eda se basa en unos controvertidos fundamentos cient\u00edficos por lo que no se deber\u00eda permitir que tenga relevancia en la adopci\u00f3n de decisiones importantes para las personas, como la contrataci\u00f3n laboral, el precio de un seguro, las evaluaciones del dolor de los pacientes o el rendimiento de los estudiantes en la escuela.<\/p>\n

2. Los gobiernos y las empresas deber\u00edan detener todo uso del reconocimiento facial en contextos sociales y pol\u00edticos sensibles hasta que se estudien completamente los riesgos y se establezcan las regulaciones adecuadas para su uso.<\/p>\n

Seg\u00fan el informe, en 2019 se ha producido una r\u00e1pida expansi\u00f3n del reconocimiento facial en muchos \u00e1mbitos. Sin embargo, cada vez hay m\u00e1s pruebas de que esta tecnolog\u00eda tiene graves efectos, sobre todo a las personas de color y los pobres. Por ello deber\u00eda establecerse una moratoria en todos los usos del reconocimiento facial en \u00e1mbitos sociales y pol\u00edticos sensibles –incluyendo la vigilancia, el mantenimiento del orden, la educaci\u00f3n y el empleo– en los que el reconocimiento facial plantea riesgos y consecuencias que no se pueden remediar de manera retroactiva.<\/p>\n

Adicionalmente, esta moratoria deber\u00eda incluir una fijaci\u00f3n de los requisitos de transparencia sobre el funcionamiento de estos sistemas, que permitan a los investigadores, los responsables de la formulaci\u00f3n de pol\u00edticas y las comunidades evaluar y comprender el mejor enfoque posible para restringir y regular el reconocimiento facial.<\/p>\n

3. La industria de la IA necesita introducir cambios estructurales significativos para abordar el racismo sist\u00e9mico, la misoginia y la falta de diversidad en sus sistemas.<\/p>\n

4. La investigaci\u00f3n sobre los sesgos de la IA debe ir m\u00e1s all\u00e1 de las meras soluciones t\u00e9cnicas, para abordar las pol\u00edticas y consecuencias del uso de la IA en un conjunto general.<\/p>\n

5. Los gobiernos deben exigir la divulgaci\u00f3n p\u00fablica del impacto clim\u00e1tico de la industria de la IA.<\/p>\n

6. Los trabajadores deben tener el derecho a oponerse a la utilizaci\u00f3n invasiva de la IA en el \u00e1mbito laboral.<\/p>\n

7. Los trabajadores t\u00e9cnicos deben tener derecho a saber lo que est\u00e1n construyendo y a impugnar los usos poco \u00e9ticos o perjudiciales de su trabajo con IA.<\/p>\n

8. Los Estados deben elaborar leyes m\u00e1s amplias sobre la privacidad de los datos biom\u00e9tricos, dirigidas tanto a los actores p\u00fablicos como a los privados, como la Illinois Biometric Information Privacy Act (BIPA),<\/p>\n

9. Los legisladores deben regular la integraci\u00f3n de las infraestructuras de vigilancia p\u00fablicas y privadas.<\/p>\n

10. Las evaluaciones de impacto algor\u00edtmico deben tener en cuenta el impacto de la IA en el clima, la salud y los desplazamientos geogr\u00e1ficos.<\/p>\n

11. Los investigadores del aprendizaje autom\u00e1tico (machine learning) deben tener en cuenta los posibles riesgos y da\u00f1os que puedan derivarse de su uso, y documentar mejor los or\u00edgenes de sus modelos y datos.<\/p>\n

12. Los legisladores deben exigir el consentimiento informado para el uso de cualquier dato personal en las aplicaciones de IA relacionada con la salud.<\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Publicado inicialmente\u00a0 Wolters Kluwer<\/p>\n

Carlos B Fern\u00e1ndez<\/p>\n","protected":false},"excerpt":{"rendered":"

El AI Now 2019 Report destaca que esa falta de medidas efectivas contrasta con la generalizaci\u00f3n de las tecnolog\u00edas de reconocimiento facial y la aparici\u00f3n de otras nuevas, como el reconocimiento de emociones de las personas, particularmente intrusivas. A pesar de la abundancia de propuestas sobre criterios \u00e9ticos aplicables a la Inteligencia Artificial (IA), los […]<\/p>\n","protected":false},"author":2,"featured_media":6520,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"wds_primary_category":0,"wds_primary_cea_women":0,"footnotes":""},"categories":[1084,1097],"tags":[269,1092,99],"cea_women":[1195],"class_list":["post-6519","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-women-digital-law","tag-eitica","tag-etica","tag-rgpd"],"acf":[],"_links":{"self":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts\/6519","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/comments?post=6519"}],"version-history":[{"count":0,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts\/6519\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/media\/6520"}],"wp:attachment":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/media?parent=6519"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/categories?post=6519"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/tags?post=6519"},{"taxonomy":"cea_women","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/cea_women?post=6519"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}