¿Pueden los robots ser más o menos racistas?

La tecnología que reproduce los prejuicios racistas ha causado mucha polémica en los últimos tiempos, principalmente en Estados Unidos. Una investigación sobre el tema del periódico The New York Times señala que en Dallas en 2016 un robot policial mató por primera vez a una persona; era un hombre negro. El aparato llevó una bomba hasta donde estaba y la hizo explotar. El año siguiente la Policía volvió a utilizar una tecnología similar, para hacer exactamente lo mismo; esta vez en Maine. 

Ahora hay robots que utilizan reconocimiento facial, que pueden predecir las acciones de las personas, o que pueden decidir por sí solos si disparar proyectiles "no letales". 

Desde el primer caso, el NYT recuerda que algunos investigadores de robótica manifestaron su preocupación, alegaron que los robots que formaban parte de los escuadrones policiales antibombas se comercializan como herramientas para eliminar bombas de forma segura, no para matar gente. Lo mismo sucede con las otras tecnologías. 

"La pregunta es: ¿queremos como robotistas que sea más fácil para la policía hacer lo que está haciendo ahora?", dijo a NYT Tom Williams, de la Colorado School of Mines. "Vivo en Denver, y este verano durante las protestas vi a la policía gaseando a la gente a pocas cuadras de mí".

Pero cómo se usa la tecnología no es el único problema. Muchos de los algoritmos que se utilizan están sesgados contra las personas negras y otras que no son como quienes los diseñan: hombres blancos, ricos y saludables. En la última década se ha demostrado que las tecnologías de reconocimiento facial son más eficientes con los rostros de personas blancas que otras personas. 

"Es desconcertante que los robots pacificadores, incluidos los robots policiales y militares, en algún momento tendrán mayor libertad para decidir si tomar una vida humana, especialmente si los problemas relacionados con los prejuicios no se han resuelto", escribieron en la revista Science and Engineering Ethics Ayanna Howard, investigadora de robótica en Georgia Tech, y Jason Borenstein, un colega de la escuela de política pública de la misma universidad, según NYT.

No todo está perdido

Los investigadores de IA y robótica están militando para cambiar la forma en que se desarrollan y se utilizan las tecnologías. La organización Black in Computing lanzó una declaración y propuesta que, según NYT, han firmado casi 200 científicos negros en computación y más de 400 aliados (ya sean académicos negros en otros campos o personas no negras que trabajan en áreas relacionadas), para negarse a trabajar con o para los organismos de aplicación de la ley. 

Alegan que las tecnologías que ayudan "a crear para beneficiar a la sociedad también están perturbando a las comunidades negras a través de la proliferación de los perfiles raciales". Y que por ende, se manifiestan: "Sin justicia, no hay robots".

La declaración también pide reformas, incluyendo poner fin al acoso a los estudiantes negros por parte de agentes de policía del campus, y abordar el hecho de que los negros reciben recordatorios constantes de que otros creen que no pertenecen allí.

También hay otras propuestas. Para el profesor de la Universidad de Alabama, Chris S. Crawford, dijo a NYT que considera que el problema del sesgo se podría resolver si hubiera más personas que se parecieran a la población estadounidense en la mesa de trabajo, al momento de diseñar la tecnología.

Un planteo similar realizó al NYT Odest Chadwicke Jenkins, robótico e investigador de IA de la Universidad de Michigan. "El problema más grande es, realmente, la representación en la sala, en el laboratorio de investigación, en el aula y en el equipo de desarrollo, en la junta ejecutiva". Aseguró que las discusiones éticas deben estar arraigadas en esa primera cuestión fundamental de los derechos civiles.

Hay otros que consideran que no trabajar con las autoridades represivas sería un error. Tal es el caso de Williams, y de Cindy Bethel, directora del Laboratorio de Sistemas Sociales, Terapéuticos y Robóticos de la Universidad Estatal de Mississippi. Según NYT la investigadora cree que los robots pueden hacer que el trabajo policial sea más seguro tanto para los oficiales como para los civiles.

Ahora Bethel y su equipo están desarrollando un robot equipado con cámaras de visión nocturna, que permitirían a los oficiales explorar una habitación antes de entrar en ella. Cree que así sería más seguro para los policías. "Todo el mundo está más seguro cuando no hay el elemento de sorpresa, cuando la policía tiene tiempo para pensar", dijo.

"Si las personas externas que tienen valores éticos no están trabajando con estas entidades de aplicación de la ley, entonces ¿quién lo está?", dijo a NYT Howard. "Cuando dices 'no', otros van a decir 'sí'. No es bueno si no hay nadie en la habitación que diga: 'Um, no creo que el robot deba matar'", agregó.

Sea cual sea la estrategia que tomen los desarrolladores, lo cierto es que por primera vez muchos robóticos y tecnólogos firmaron declaraciones asumiendo la responsabilidad de abordar el racismo desde los laboratorios. "Creo que las protestas en la calle realmente han tenido un impacto", dijo a NYT Jenkins.