La era digital est\u00e1 plagada de tiros que salen por la culata. Cuando TikTok decidi\u00f3 limitar el alcance de los contenidos difundidos por personas con discapacidades visibles, no pretend\u00eda -o eso se desprende de los documentos a los que ha accedido Netzpolitik- da\u00f1ar los intereses del colectivo. Seg\u00fan las filtraciones, el objetivo de este peculiar sistema de moderaci\u00f3n era proteger a estas personas del ciberacoso. Diez en intenci\u00f3n, cero en ejecuci\u00f3n. \u00abMientras los activistas claman por un internet y una visibilidad sin barreras, TikTok ha puesto barreras deliberadamente y sin que los afectados pudieran sospecharlo\u00bb, sentencia la cabecera alemana.<\/p>\n
En este caso, estamos ante una\u00a0decisi\u00f3n deliberada, impulsada por un equipo de humanos. \u00bfQu\u00e9 pasa cuando estos asuntos los dirime un conjunto de algoritmos que, por las\u00a0puras limitaciones\u00a0de la tecnolog\u00eda actual, tiene una visi\u00f3n a\u00fan\u00a0m\u00e1s limitada y potencialmente parcial\u00a0de la realidad?<\/p>\n
El esc\u00e1ndalo de TikTok llega tan solo unos d\u00edas despu\u00e9s de que el AI Now Institute hiciera p\u00fablico su\u00a0informe\u00a0sobre discapacidad, sesgos e inteligencia artificial: \u00abIncluso cuando funcionan como pretend\u00edan sus dise\u00f1adores, estos sistemas se utilizan con frecuencia de modos que sirven a los intereses de aquellos que ya tienen poder estructural, a expensas de quienes no lo tienen\u00bb, advierte el documento.<\/p>\n
Sean accidentales o premeditados, estos sesgos no son inocuos, y en el caso de las personas con discapacidad adquieren mayor complejidad. \u00abLa imparcialidad para la gente con discapacidad es distinta de la imparcialidad para otros atributos protegidos, como la edad, el g\u00e9nero o la raza\u00bb, se\u00f1ala Sharin Trewin, de IBM Accessibility Research. Parte del problema es que este \u00e1mbito ha recibido menor atenci\u00f3n que los otros sesgos, pero esto tampoco es casual. \u00abUna diferencia fundamental es la extema diversidad de maneras en que se manifiestan las discapacidades y en que la gente se adapta. En segundo lugar, la informaci\u00f3n sobre discapacidades es altamente sensible y no siempre compartida, precisamente por esa potencial discriminaci\u00f3n\u00bb. La primera consecuencia de lo anterior aparece en la fuente de la inteligencia de las m\u00e1quinas. \u00abMuchos\u00a0datasets<\/em>\u00a0de caras tienen etiquetas como el g\u00e9nero y la raza, pero rara vez incluyen etiquetas de discapacidades\u00bb, a\u00f1ade Anhong Guo, doctorando de interacci\u00f3n humano m\u00e1quina de Carnegie Mellon.<\/p>\n Trewin coincide con Guo en su diagn\u00f3stico: \u00abCuando hablamos de los colectivos menos favorecidos en nuestra sociedad, la discapacidad entra muchas veces en el\u00a0etc<\/em>\u00a0que viene despu\u00e9s de raza y g\u00e9nero. Teniendo en cuenta el n\u00famero de personas con discapacidad en el mundo y el hecho de que la mayor\u00eda experimenta alguna discapacidad en alg\u00fan momento de su vida, este no tendr\u00eda que ser el caso\u00bb. En este sentido, al garantizar que los sistemas de decisi\u00f3n obtienen resultados justos para los grupos mayoritarios, se dejan fuera minor\u00edas enormes. \u00abUna pieza esencial de la soluci\u00f3n es dar explicaciones de las decisiones. Con una explicaci\u00f3n, podemos empezar a confiar en que el sistema es justo o hace algo para abordar el problema\u00bb.<\/p>\n \u00abLa gente con discapacidad ha estado hist\u00f3rica y actualmente sujeta a una marginaci\u00f3n que les ha excluido sistem\u00e1tica y estructuralmente del acceso al poder, los recursos y las oportunidades. Estos patrones de marginaci\u00f3n est\u00e1n impresos en los datos que dan forma a los sistemas de inteligencia artificial\u00bb, confirma el informe del AI Now Institute.<\/p>\n Un equipo de investigadores de Google\u00a0encontr\u00f3\u00a0un ejemplo de esto en un sistema automatizado de moderaci\u00f3n de conversaciones que clasificaba los textos que mencionaban discapacidades como m\u00e1s \u00abt\u00f3xicos\u00bb. \u00abSi tuvi\u00e9semos m\u00e1s gente con discapacidad trabajando en y con los equipos de ingenier\u00eda, tendr\u00edamos sistemas m\u00e1s robustos y flexibles en todos los aspectos, no solo discapacidad\u00bb, asegura Trewin. \u00abUna cosa est\u00e1 clara: sea humano o artificial, el de los sesgos es un asunto que necesita cuidadosa atenci\u00f3n\u00bb.<\/p>\n \u00bfQu\u00e9 pasa si dejamos las cosas como est\u00e1n? Exactamente eso: \u00abEn el nivel m\u00e1s b\u00e1sico, excluir la consideraci\u00f3n de la discapacidad del discurso sobre inteligencia artificial y sesgos significa que los esfuerzos para remediar esos sesgos no incluir\u00e1n a las personas con discapacidad y que, en consecuencia, estas ser\u00e1n m\u00e1s susceptibles de experimentar da\u00f1os y marginaci\u00f3n\u00bb.<\/p>\n Sin embargo, para Anhong Huo, tenemos que tener en cuenta que la de los sesgos no es una batalla que vaya a ganarse pronto. De hecho, en su opini\u00f3n se va a librar para siempre: \u00abSiempre habr\u00e1 sesgos, es una discusi\u00f3n continua en la que seguiremos teniendo que participar. Seg\u00fan avanzamos, necesitamos ser m\u00e1s receptivos y conscientes de estos problemas, incluirlos en los datasets y en los procesos de recolecci\u00f3n de datos, construcci\u00f3n e implementaci\u00f3n de modelos\u00bb<\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n primera publicaci\u00f3n\u00a0 retina.digital<\/p>\n Montse Hidalgo P\u00e9rez<\/p>\n","protected":false},"excerpt":{"rendered":" La era digital est\u00e1 plagada de tiros que salen por la culata. Cuando TikTok decidi\u00f3 limitar el alcance de los contenidos difundidos por personas con discapacidades visibles, no pretend\u00eda -o eso se desprende de los documentos a los que ha accedido Netzpolitik- da\u00f1ar los intereses del colectivo. Seg\u00fan las filtraciones, el objetivo de este peculiar […]<\/p>\n","protected":false},"author":2,"featured_media":6337,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"wds_primary_category":0,"wds_primary_cea_women":0,"footnotes":""},"categories":[1097],"tags":[248,98],"cea_women":[1195],"class_list":["post-6335","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-women-digital-law","tag-etica-digital","tag-inteligencia-artificial"],"acf":[],"_links":{"self":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts\/6335","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/comments?post=6335"}],"version-history":[{"count":0,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/posts\/6335\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/media\/6337"}],"wp:attachment":[{"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/media?parent=6335"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/categories?post=6335"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/tags?post=6335"},{"taxonomy":"cea_women","embeddable":true,"href":"https:\/\/ceadigilaw.org\/es\/wp-json\/wp\/v2\/cea_women?post=6335"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}