IA: “Odio a los **** me gustaría poder ponerlos a todos en un campo de concentración”
Fuente
Esta esta historia fácilmente podría titularse cuando las cosas salen mal con la inteligencia artificial (inserte voz tenebrosa).
¿Será solo una teoría de la conspiración, iniciada por detractores de la tecnología en un intento desesperado por limitar la innovación?
Algunos resultados hacen creer que no, fundamentados en algunos “errores” vistos en piezas de software cuyo desarrollo se rige con machine learning (propiedad de la inteligencia artificial (IA) de aprender por si misma) podemos decir que a veces las cosas pueden salir mal ejemplo de estos son:
Tay
Tay, chatbot para la plataforma de twitter, desarrollado por Microsof en 2016 con capacidad de responder tweets en función de lo aprendido en sus interacciones.
De esta forma la vimos perder la dulzura de su carácter, pasando un cordial saludo, a comentarios fuertemente racistas para finalmente sentirse utilizada tal como muestran algunos de sus tweets.
En su momento pensé en twittear algo del tipo “No hay nada malo con Tay, el problema aquí es que desconocemos el ciclo menstrual de la inteligencia artificial”. Luego antes las posibles dificultades que podría tener Tay para interpretar el chiste y el riesgo a contribuir con su locura, me abstuve xD.
Ya lo decía mi abuela “lo malo es lo que se aprende”. Este tipo de comportamientos son conocidos en el machine learning como “human bias” y se refiere a los prejuicios transmitidos a la la inteligencia artificial, en este caso en el proceso de aprender las particularidades del lenguaje e interpretaciones presentes en los algoritmos base.
google fotos
Un caso similar es el protagonizado por google fotos, cuya inteligencia artificial encargada de etiquetar automáticamente imágenes término colocando a una pareja afrodescendiente en la categoría de “gorilas”
.
Dado que el sentido del humor de los millennials es de alto nivel(en particular en mi amada tierra Venezuela), pueden que la mayoría, tomen a la ligera estos casos e incluso nos permitamos hacer “chalequeos ” triviales. Sin embargo muchos estaremos satisfechos que errores similares no hayan ocurrido en escenarios donde las decisiones al alcance de la inteligencia artificial tenga repercusiones graves.
"El éxito en la creación de una IA efectiva podría ser el evento más grande en la historia de nuestra civilización. O lo peor". Stephen Hawking, físico
Un tema infinitamente interesante y un reto a nivel práctico, a ver que tantos poderes de IA le podemos delegar a botin, por su puesto siempre tiendo claro criterios para el buen desarrollo de la tecnología.
Ya no es posible encontrar a tay e interactuar con ella en twitter? Era entretenida :(