Lo que aprendimos de la robot racista de Microsoft.

Majo Pasos

Por: Majo Pasos, Editora de contenidos en Hint. 5 de abril de 2016

Tiempo de lectura:

Pasó de tuitear “los humanos son súper cool” a “Hitler tenía razón. Odio a los judíos”, en menos de 24 horas. Se llama Tay y fue un proyecto de inteligencia artificial creado por Microsoft para conocer más sobre cómo interactuamos con las computadoras a más de una década de la web 2.0. ¿Qué fue lo que salió tan mal con este chatbot adolescente?

¿Son los usuarios los responsables de la reacción de Tay?

La robot racista de microsoft

Después de retirar el experimento de Microsoft del aire, Peter Lee, jefe del área de Investigación de la compañía publicó un comunicado ofreciendo una disculpa e intentando explicar el vergonzoso comportamiento de su chatbot. Puedes leerlo completo aquí.

“Desgraciadamente hemos observado un esfuerzo coordinado de algunos usuarios para abusar de las capacidades de Tay”

El bot fue creado para fines de entretenimiento y programado para responder lógicamente a las interacciones de los usuarios, mientras aprendía más sobre ellos para personalizar sus respuestas y entablar una conversación de modo más natural. De cierta forma, las preguntas de los usuarios perfilaban el comportamiento de Tay, y aunque pueda parecer muy ingenuo, hay una clara verdad que se escapó de nuestras manos:

La máquina la hacemos nosotros

¿Cómo estamos haciendo la máquina?

Al inicio de esa cosa maravillosa llamada web 2.0, Michael Wesch, profesor de la Universidad de Kansas, realizó este video donde explicaba el alcance de esta herramienta y la forma en la que estaba cambiando nuestro modo de escribir, pensar y comunicarnos: 

 Ahora, cuando ya se habla de una web 3.0, la Inteligencia Artificial, pasamos de una web colaborativa al diseño de máquinas que convivan con nosotros y que nos ayuden a convivir entre nosotros. Las empresas de tecnología ensayan la mejor manera de hacer que la máquina aprenda de nuestro comportamiento y responda a nuestras necesidades. Hoy estamos cambiando la forma de relacionarnos.

¿Por qué hablar de Tay y la Inteligencia Artifical?

Este post no va sobre posicionar palabras clave. Es probable que ningún buscador nos encuentre en su primera página y que no estemos siguiendo las reglas básicas del SEO.
Pero teníamos que hablar sobre el sentido del juego, sin seguir mucho las reglas.

Trabajamos en internet, escribimos para que robots nos encuentren y colocamos palabras clave como si fueran anzuelos que nos saquen de las profundidades del océano a la superficie de este mar de información que crece día tras día.

Hoy aprendemos algo nuevo que mañana ya no será vigente, nos esforzamos en dominar un lenguaje, un programa, una red social, descifrando un algoritmo que cambiará sus reglas en el mismo momento en que comenzamos (o creemos que comenzamos) a entenderlo.

Pero, ¿qué es lo que realmente pasa?

Detrás de las arañas de Google analizando millones de páginas web con la keyword: restaurante italiano abierto domingo, hay una persona que está buscando festejar su aniversario con la persona que ama.

Detrás del código con el que se diseña una página web, hay un sueño y mucho trabajo que se convirtió en una empresa.

Detrás del ranking de la primera página de un buscador sobre bienes raíces, hay un padre de familia buscando un hogar donde criar a sus hijos.

Detrás del misterioso algoritmo de Facebook, tan incorpóreo como la piedra filosofal, hay un grupo de amigos que vuelve a encontrarse después de años de no verse.

Detrás de la sección de comentarios de cualquier blog de cualquier lugar del mundo escrito en cualquier idioma, hay una comunidad de personas disfrutando lo que más le apasiona, compartiendo su conocimiento y aprendiendo más sobre ellos mismos.

Detrás de una llamada programada por Siri, hay una persona que quiere saludar a su madre.

Detrás de la máquina, estamos nosotros, los humanos.

¿Qué hacemos ahora con la máquina?

¿Significa esto que vivimos en una sociedad destinada al racismo, la misoginia y la violencia? No lo creemos. Sabemos, y no podemos negarlo, que internet es un megáfono público compartido por millones de personas que tienen total libertad para emitir sus comentarios. Y aunque Umberto Eco (un filósofo italiano cuyas opiniones puedes consultar aquí) se escandalizaba de las consecuencias que esto traía consigo, creemos que sólo es una cara de la moneda.

“Las redes sociales le dan el derecho de hablar a legiones de idiotas que primero hablaban solo en el bar después de un vaso de vino, sin dañar a la comunidad. Ellos eran silenciados rápidamente y ahora tienen el mismo derecho a hablar que un premio Nobel. Es la invasión de los idiotas". La Stampa

Pero, ¿quién debería tener derecho a hablar? ¿quién debe ser silenciado? ¿quién tiene derecho a estar informado? La otra cara de la moneda, la que más nos interesa y con la que trabajamos, no tiene forma de megáfono y se parece más a una conversación.

¿Por qué asustarnos con la invasión de los idiotas en lugar de cambiar las reglas del juego?

Hoy, gracias a la máquina que nosotros creamos, puedes aprender sobre casi cualquier tema sin salir de casa, puedes informarte sobre lo que está pasando en el mundo, puedes ver cosas que hasta ahora sólo estaban reservadas para un puñado de hombres y puedes ayudar a otras personas a realizar sus proyectos.

Por ahí, hace unos años, un carismático personaje, de cuyo nombre no queremos acordarnos, nos recomendaba cambiar de conversación. Nosotros creemos otra cosa:

Si no te gusta lo que se dice, no cambies de conversación: cambia las ideas.

 

En Hint usamos máquinas para crear interacciones entre humanos, ¿quieres saber cómo?

Descarga aquí nuestra guía Inbound para humanas

Topics: Tecnología

Suscribete a nuestro newsletter